「一番強いAIモデルは、責任を持って公開できません」。OpenAIのサム・アルトマンCEOが、スタンフォード大学ビジネススクールの講演でこう明言しました。世界のサイバー攻撃への防御と、バイオセキュリティ(生物・感染症分野の安全)が整うまでは、最も高性能な内部モデルをオープンソース化(元のコードを誰でも使える形で公開すること)できないというのです[1]。この話題は以前の記事でも取り上げましたが、今回は発言の中身と、その裏で進む事業の動きを追います。
スタンフォードでの講演は、AIの行方から個人の成長まで幅広いテーマに及びました[1]。その中でアルトマン氏は、会社の歩み方を振り返っています。OpenAIはもともと純粋な研究機関として出発しました。超知能さえ作れれば、製品化や商売は後から自然についてくる。チームはそう素朴に信じていたといいます。しかし技術の進み方は予想と大きく違いました。2020年ごろには方針の転換が必要になりました。ChatGPT公開後の爆発的な伸びにより、同社は一夜にして巨大企業になったと語っています[1]。組織のカルチャーも、この過程で大きく変わったようです。
記事は、オープンソース化を「ケーキだけ売るのではなく、レシピを配るようなもの」と例えています[2]。影響は小さくありません。オープンなAIを頼りにアプリを作る開発者や企業は、最も進んだモデルに触れられなくなります。その結果、革新が遅れたり、最先端AIの利用が高額になったりする恐れがあります[2]。一方で、非公開にすればリスクは抑えられます。ハッカーによる悪用、AIを使ったフィッシング詐欺、バイオテロなどがその例です[2]。
興味深いのは、アルトマン氏自身がオープンなモデルの価値を認めている点です。モデルの重み(AIの学習結果そのもの)まで公開する形には社会的な意義がある、と同氏は述べています[1]。つまり「すべてを閉じる」のではなく、最強の1つだけが公開の対象外というわけです。そのうえで同氏は、AIの推論を人間の意図どおりに制御する「アライメント」の難しさを認めました。自分はこれを過小評価していたといいます。AIの進歩は想定より速く、世界的なルールがないままでは、このペースは持続できないという指摘です[2]。
こうした発言は、9月以降ずっと続いています。9月11日には、安全性のリスクが高まる中でAIの減速にも前向きだと報じられました[6]。9月14日のCNBCでは、業界全体がなぜ減速を望むのかを自ら解説しています[4]。9月28日には、予定していた次期バージョンの公開自体を取りやめたとCNBCが伝えました[7]。10月5日には、AIの恩恵と引き換えに「悪いこと」は受け入れる必要があると述べています[8]。Fast Companyの取材では、不穏さを感じさせる新たな警告も発しています[5]。
ところが、安全を訴える声の裏で、事業の拡大は止まっていません。ChatGPT Adsは26カ国に追加で拡大し、対象は89市場に達しました。すでに10万人以上の広告主が利用しています[3]。広告はFreeとGoプランに限られ、会話は広告主に渡さず、広告の配置も回答と分けられると会社は説明しています。ただし記事は、その主張はユーザーが実際に見える設定や開示で確かめるべきと指摘しています[3]。さらにOpenAIのモデルが、Google CloudのModel Garden経由で提供される計画も進んでいます。フロンティアモデルやCodexのワークフローが対象で、一般提供までは数週間かかる見込みです[3]。
意外な動きもありました。ウェブ開発言語PHPの重大な脆弱性2件について、修正プログラムが公開されたのです。放置すると攻撃者がウェブサーバーを乗っ取れる恐れのある問題です。OpenAIとセキュリティ企業Wizが、AIを活用した調査でこの危険性の実証に協力しました。ウェブサイトの運営者は、攻撃の試みと実際の侵害を区別しながら、自分の環境を確認するよう求められています[3]。AIが攻撃と防御の両面で動く実例といえます。
公開と安全のトレードオフは、私たちが使えるAIの性能と安全性をそのまま左右します。最強モデルは鍵のかかった場所に置かれ、自由に使えるAIは一段遅れを取るかもしれません。一方で、広告やクラウド提携という収入の柱は着実に太っています[3]。世界規模の防御とルールが整うかどうか。それが次のモデル公開の行方を左右する分かれ目になりそうです[2]。
引用ソース
- Reddit Reddit r/LocalLLaMA: Sam Altman: OpenAI’s best model “can’t responsibly be open-sourced” until the world builds better cyberdefense and bio-security — https://www.reddit.com/r/LocalLLaMA/comments/1xe0ioz/sam_altman_openais_best_model_cant_responsibly_be/
Sam Altman: OpenAI’s best model “can’t responsibly be open-sourced” until the world builds better cyberdefense and bio-security
- Web記事 記事全文: OpenAI’s Best AI Too Dangerous to Share, Says CEO Sam Altman — https://theneuralfeed.com/article/sam-altman-openai-s-best-model-can-t-responsibly-be-open-sourced-until-the-world/mIvkMZ06
OpenAI’s Best AI Too Dangerous to Share, Says CEO Sam Altman
The most powerful AI might not be released to the public—here’s why that matters to you.
OpenAI CEO Sam Altman recently spoke at Stanford and made a surprising - Web記事 記事全文: Sam Altman Acknowledges OpenAI’s Closed-Source Controversy — https://opentools.ai/news/sam-altman-acknowledges-openais-closed-source-controversy
Related News
Oct 21, 2026
PHP2Shell patches arrive as AI-assisted discoveries trigger a web security response
PHP has released fixes for two critical flaws that can let attackers take over vulnerable web servers. Researc - Web記事 Web検索: Sam Altman spells out how and why the AI industry wants to slow down – CNBC — https://www.cnbc.com/2026/09/14/sam-altman-ai-slowdown-anthropic-amodei-musk.html
Sam Altman spells out how and why the AI industry wants to slow down – CNBC
- Web記事 Web検索: Sam Altman: Deeply unsettling new warning about AI ‘bad things’ – Fast … — https://www.fastcompany.com/91618313/sam-altman-openai-ai-bad-things-deeply-unsettling-new-warning-interview
Sam Altman: Deeply unsettling new warning about AI ‘bad things’ – Fast …
- Web記事 Web検索: OpenAI CEO Sam Altman says he’s open to slowing AI as safety risks … — https://nypost.com/2026/09/11/business/openai-ceo-sam-altman-says-hes-open-to-slowing-ai-as-safety-risks-mount-report/
OpenAI CEO Sam Altman says he’s open to slowing AI as safety risks …
- Web記事 Web検索: OpenAI abandons plan to release upcoming model as safety … – CNBC — https://www.cnbc.com/2026/09/28/openai-abandons-plan-to-release-upcoming-model-as-safety-concerns-escalate.html
OpenAI abandons plan to release upcoming model as safety … – CNBC
- Web記事 Web検索: Accept ‘bad things’ in return for benefits of AI, says Sam Altman — https://www.theguardian.com/technology/2026/oct/05/sam-altman-open-ai-chatgpt-benefits-risks
Accept ‘bad things’ in return for benefits of AI, says Sam Altman
※ 本記事はAIにより、Reddit・Hacker News・5ch・Xトレンドの公開投稿・トレンドを軸に、その話題をWeb検索で深掘りして集めた一次情報(記事全文・HNコメント)を併せて自動生成されました。本文中の[n]は末尾の引用ソース番号です。内容の正確性は保証されません。引用先を必ずご確認ください。
RECENT COMMENTS