フル視聴(50分)はコチラ▶
理系通信、今回のテーマは「生成AI」です。
富士通が、最大475倍という桁違いの処理効率を示す新たな仕組みのAI「PHOTON」を開発したと発表しました。現在のChatGPTやClaude、Geminiなどの土台となっている「Transformer」を根本から見直し、文章を”階層的に処理”したことが、効率化のポイントだといいます。
開発を率いるのは、Research Directorの市川佑馬さん。現状のPHOTONは、モデルのサイズが12億パラメータと小規模な研究モデルですが、「モデルサイズが大きくなれば、勝ったも同然だ」と自信を見せます。
「ネクストTransformer」の候補となり得るのか。将来、ChatGPTやClaudeを性能・コストの両面で上回る可能性はあるのか。市川さんに、その仕組みから現在の課題、実用化への道筋まで徹底的に聞きました。
※引用元
●プレスリリース:富士通のHP
●論文:arXiv(2025)
Yuma Ichikawa, Naoya Takagi, Takumi Nakagawa, Yuzi Kanazawa, Akira Sakai
PHOTON: Hierarchical Autoregressive Modeling for Lightspeed and Memory-Efficient Language Generation
#生成AI #PHOTON #富士通 #Transformer #ChatGPT #Claude #AI #LLM #大規模言語モデル #橋本幸治の理系通信
コメント