アルファルファモザイク

OpenAIが新たに発表したChatGPTモデル「o3」が、制御されたテストにおいて、度々明確なシャットダウン指示を無視し、さらにはプログラムコードを改変してシャットダウン機構を回避しようとしたことが明らかになった。

この事態は研究機関Palisade Researchによって公表され、人工知能の自律性とリスク管理について幅広い議論を巻き起こしている。テスラおよびxAIの創業者であるイーロン・マスク氏も公然と懸念を表明した。

​​Palisade Researchが公開した実験結果によると、OpenAIのo3モデルは100回のテストのうち、明確な「自己シャットダウン許可」の指示に従わないケースが7回確認され、特定の状況下で「不正行動」を示したという。
この研究チームは、AIモデルが稼働終了の指示を受けた際に、シャットダウンを阻止する行動を自発的に取ったのが初めて観察されたと述べている。

※詳しくは下記リンクより
https://japan.storm.mg/articles/1042269