この記事を読むと
この記事では、OpenAIが新たに結成した「安全とセキュリティ」チームの背景と目的、そして次世代のフロンティアモデルのトレーニング開始について詳しく解説します。また、最近の内部動向や影響力のある人物の発言も取り上げ、OpenAIの今後の方向性を考察します。
OpenAI、新たなフロンティアモデルのトレーニング開始
OpenAIは火曜日、Microsoft Build 2024で新たなフロンティアモデルのトレーニングを開始したと発表した。この新しいシステムは、OpenAIが「AGI（人工一般知能）への道のりで次のレベルの能力をもたらす」と考えているものである。
新たな「安全とセキュリティ」チームの結成
OpenAIは同時に、新しい「安全とセキュリティ」チームの結成も発表した。このチームは取締役会長のブレット・テイラー、アダム・ダンジェロ、ニコール・セリグマン、そしてCEOのサム・アルトマンが率いる委員会によって構成されている。この委員会は今後90日間、OpenAIの安全対策とプロセスを評価し、期間終了時に勧告を提出する予定である。
背景と狙い
この新しい委員会の設立は、最近数名の安全研究者がOpenAIを退職したことに起因している。元主任科学者のイリヤ・スツケヴァー氏やヤン・ライケ氏がその一例である。ライケ氏は最近、OpenAIにおいて「過去数年間、安全文化とプロセスは派手な製品に後れを取ってきた」と述べている。
社内の反響と今後の方向性
新たな安全チームの結成は、OpenAIの元取締役2人が同社の非営利ミッションの維持に疑問を呈した数日後に発表された。彼らはアルトマン氏の行動によって、取締役会の能力が妨げられたと発言し、「自主統治は利益誘導の圧力に確実に耐えることはできない」とも述べている。
この動きは、OpenAIが技術的進化と倫理的責任のバランスを取るための重要なステップとなるであろう。今後の90日間にわたる評価と勧告が、どのように同社の安全対策を強化し、次世代モデルの開発に影響を与えるかが注目される。
まとめ
OpenAIの最新の取り組みは、技術革新と安全性の両立を目指すものである。新たなフロンティアモデルのトレーニングとともに、強力な安全チームの設立は、AGIの実現に向けた重要な一歩である。今後の展開に期待が集まる。
コメント