GatorTron: 大規模臨床言語モデル

ChatGPT、相変わらず大人気です。

やばいな。
ここ数日ChatGPTで遊んでるけど、何もない状態から論文が大体書ける。現状では2021年代以降の文献がreferenceされないようだが、これはすぐに対応可能だろう。

疫学・臨床研究は「データへのアクセス」以外に差別化要因がなくなってく気がする。研究者にとってはかなり厳しい将来。　
1/2

— Rik@予防医療 (@megikaya) 2023年1月6日

ハーバードで臨床疫学を研究されている有名人Rik先生が言うんだから多分間違いありません。多分。

自分でも色々遊んでみましたが、知らない領域について初発で当たって見る際の参考にはなります。大嘘を教えてくることもあるので要注意ですが、今のGoogleクソ検索のヒット感を見てるとマシに思えてくる。

GPT-3(Generative Pre-trained Transformer 3)以降しばらくスマッシュヒットのなかった自然言語処理界隈に走った衝撃の余韻が残っていますが、医療言語処理領域でも大規模モデルが発表されました。

https://www.nature.com/articles/s41746-022-00742-2