OpenAIのCEO、サム・アルトマン氏／AFP連合ニュース
今月初め、OpenAIのAI安全政策を批判し、OpenAIを退社したスーパーアライメントチームの共同リーダーであるDeepMind出身のヤン・ライケ氏が、OpenAIのライバル企業であるAnthropicに参画した。ヤン・ライケ氏は、OpenAIの共同創設者であるイリヤ・サツキーバー氏と共に、サム・アルトマンCEOがAIの危険性に十分な注意を払わずに事業を拡大することを批判し、OpenAIを共に退社した。
現地時間の28日、ヤン・ライケ氏は自身のエックス（X・旧Twitter）に投稿し、「スーパーアライメント（superalignment・AIの長期的なリスクを研究）チームのミッションを続けるためにAnthropicに参加した」と明らかにした。Anthropicは、世界最大の商取引企業Amazonが40億ドル（約6284億円）を投資したAI企業で、最新AIモデル「Claude3（クロード3）」をリリースした。
ライケ氏はAnthtopicで、OpenAIで行ったように、長期的なAIのリスクに焦点を当てる業務を進める。
この日、OpenAIもサム・アルトマンCEOをはじめとする幹部が参加し、新たな安全保障委員会を設立したと発表した。OpenAIの新たな安全保障委員会は、「OpenAIプロジェクトと運営に関する安全および保障の決定を理事会に勧告する」ことになる。
OpenAIは、17日、スーパーアライメントチームのメンバーたちを他の部署に再配置し、チームを解散させた。スーパーアライメントチームは、AIシステムを制御し、操作するための科学的、技術的な努力にフォーカスしていた。しかし、OpenAIはチーム解散後、約10日後にアルトマンCEOを含むチームを復活させた。
ライケ氏は17日、「OpenAIの安全性に係る文化や手続きが眩しい製品に押し込まれ、脇に追いやられた」とOpenAIを厳しく批判した。14日、OpenAIを去ったサツキーバー共同創設者も、「AIが人間に害を与えないようにすることに焦点を当てていたが、アルトマンはAIを通じた新技術の提供に集中していた」とアルトマンCEOを非難した。
OpenAIと競合しているAnthropic／ロイター聯合ニュース
