「なんかもう世の中の流れについていけない」。5chのAI板に立ったこのスレッドには、ディープフェイク、AIへの感情依存、AIが作り出す顔など、ついていけない原因とおぼしき話題が次々に集まっていました[8]。前回の記事で取り上げたOpenAIの実測では、AIにテスト中と気づかせない新手法により、テストだと気づく確率が99.72%から5.12%まで下がっています[6]。開発の速度は衰えていません。今回は視点を変えて、その「ついていけなさ」そのものがどう扱われ始めたのかを追います。
実は、この感覚はすでに学術研究のテーマになっています。海外のジャーナルには、AI不安を「心理的要因と対処手法」から包括的に分析する論文が掲載されています[7]。置き換えられることへの恐怖を解説する記事や、社会全体への影響を論じる解説もあります。論文アーカイブには、AIによる実存的な不安を問う研究もありました[5]。「ついていけない」という感覚は、個人のつぶやきではなく、測って分析し対処する対象になっているようです。
不安の材料は具体的です。国立情報学研究所の越前功教授は、生成AIのリスクのうち最も深刻なのは性的なディープフェイクだと述べています。実在の人物の顔や体をAIで作り替えた画像・動画のことです[1]。1枚の写真から、人物が缶ビールを飲み干す自然な動画が作れる時代です。商用ツールは公序良俗に反する映像を作れない設計ですが、公開されて誰でも使えるオープンソースのモデルには制限がないものもあります[1]。国内にもここ数カ月で広がり、特に中高生が対象になるケースが目立ちます。卒業アルバムの写真には氏名も載っており、フェイクと分かっても本人の精神的ダメージは計り知れないと指摘されています[1]。
手口は犯罪にも及びます。特殊詐欺の犯人が顔を合成してビデオ通話に現れるケースや、フェイク音声で企業幹部になりすまし現金をだまし取った詐欺が報告されています[1]。こうした状況を受け、OpenAIは13〜17歳向けの安全機能「ChatGPT for Teens」を発表しました[2]。同社はかつて、AIがパーソナルアシスタントや健康コーチ、家庭教師、友達になる未来を描いてきました。その未来像に対し、依存や恋愛感情を防ぐ安全機能を用意したことになります。心の支えではなく、教育的なツールとして使ってもらうのが狙いです[2]。
一方で、技術は「実在の顔」の扱いを変えつつあります。スレッド内のある投稿者は、ゲーム「龍が如く」シリーズを例に挙げました。初代の登場人物の顔は、作者が空想してデフォルメした「人工の顔」です。以降の作品では、実在の俳優をモデルにした写実的な顔の登場人物が出てきます。脇役は想像して作った顔だそうです。写実的な顔を作るには、実在の人間にモデルを頼む必要があった、という観察です[4]。ところが生成AIに聞くと、実在の人間をモデルにせず、架空でありながら写実的な顔画像を作れると回答されました[4]。創作の幅が広がる半面、「写実的な顔=実在の人物」という見分けが通用しなくなることを意味します。
さらに皮肉な構造もあります。ソーシャルメディアに出回る言説が正しいかどうかを、多くの人がAIに聞いて確かめる状況になっているのです。XのGrokが典型で、越前教授は生成AIをナイフにたとえ、使い方次第で良くも悪くもなると述べています[1]。AIが生んだ情報の混乱を、AIに頼って確かめる。流れについていけない人ほど、AIに頼らざるを得ない構造ができてきたようです。
総務省の情報通信白書も、こうした流れを課題として整理しています[3]。AIには学習データの偏りによるバイアスや、内部の判断が外から見えにくいブラックボックス性が以前から指摘されてきました。生成AIの普及で、固有のリスクも明らかになってきたといいます[3]。学校で「やってはいけないこと」を教える必要性が指摘される[1]など、対処は技術から教育まで広がっています。生成AIを「秒進分歩」のスピードで進化すると表現する専門家もいます[1]。流れの速さは止められません。ただ、不安を分析して対処を探る研究[7]や、年齢層に応じた安全設計[2]のように、「ついていくための道具」は増え始めている、というのが今回の素材から読み取れるところです。
引用ソース
- Web記事 記事全文: 「生成AIの社会的リスクと向き合う」第105号 – NII Today / 国立情報学研究所 — https://www.nii.ac.jp/today/105/4.html
Interview
生成AIの社会的リスクと向き合う
生成AIは「秒進分歩」ともいうべきスピードで進化し、人々の生活に急速に浸透しつつある。しかし、画像や映像の生成や改変が容易になったことで負の面も顕在化している。犯罪への悪用や深刻な人権侵害、そして社会全体への悪影響も懸念される。私たちはリスクとどう向き合ったらいいのか、技術的に解決する道はあるのか、越前功教授に聞いた。
越前 功ECHIZEN, Isao
国立情報学研究所
情報社会相 - 5ch 5ch AI板 投稿>>364 (なんかもう世の中の流れについていけない) — https://krsw.5ch.io/test/read.cgi/ai/1777211644/364
https://www.gizmodo.jp/article/openai-launches-chatgpt-for-teens-to-prevent-kids-from-emotionally-bonding-with-bots/ AI企業が何十億ドルもの資金を投じて描いてきた未来像は 誰もが24時間いつでも利用できるAIが、パーソナルアシスタントや健康コーチ 家庭教師、さらには友達まで、すべての役割をこなしてくれる世界。 しかし問題
- Web記事 記事全文: 総務省｜令和6年版 情報通信白書｜Aiの進化に伴う課題と現状の取組 — https://www.soumu.go.jp/johotsusintokei/whitepaper/ja/r06/html/nd141000.html
進化してきたAIは我々の生活に便利さをもたらす一方で、活用に当たっては留意すべきリスクや課題も存在している。これまで、AI全般についても、不適切なデータや偏ったデータを学習に使用することでモデルのバイアスや誤差が増加し、予測の信頼性が低下する点や、多くの従来の機械学習モデルについてブラックボックス（透明性の欠如）となっていてその内部動作が理解しにくく、重要な意思決定の場面で問題を引き起こす可能性が指摘されていた。これに加え、生成AIが爆
- 5ch 5ch AI板 投稿>>379 (なんかもう世の中の流れについていけない) — https://krsw.5ch.io/test/read.cgi/ai/1777211644/379
人間の顔を表す画像を作ることができるか」と質問した。 すると、実在の人間をモデルとせず、架空でありながら写実的な人間の顔画像 を生成することができると回答された。 PSゲーム「龍が如く」シリーズで最初に発表さた「１」に出てくる登場人物 の顔はみんな、作者が頭の中で空想して作ったような漫画っぽくデフォルメ された「人工の顔」の人が出ている。 それ以降の「０」(誓いの場所)・「２」では、以下に示す実在する俳優を モデルにした写実性(real
- Web記事 Web検索: Existential anxiety about artificial intelligence (AI)- is it the end … — https://pmc.ncbi.nlm.nih.gov/articles/PMC11036542/
Existential anxiety about artificial intelligence (AI)- is it the end …
- 5ch 5ch AI板 投稿>>249 (なんかもう世の中の流れについていけない) — https://krsw.5ch.io/test/read.cgi/ai/1777211644/249
OpenAIが「AIにバレずにAIをテストする手法」の開発に成功 「デプロイ・シミュレーション」の仕組みと成果として、以前のAIテスト環境では テストを受けていることを知能を持ったAI自身が認識してしまうため テスト環境では自己保存が働き「極めて安全かつ優秀な優等生」として振る舞い、 本番環境では違った思考や行動を起こすリスクがありました。 驚異的な検知率の低下: 旧モデル「GPT-5.2」を用いた従来のテスト手法では AIが「今、テス
- Web記事 Web検索: AI Anxiety: a comprehensive analysis of psychological factors and … — https://link.springer.com/article/10.1007/s43681-025-00686-9
AI Anxiety: a comprehensive analysis of psychological factors and …
- 5ch 5ch AI板: なんかもう世の中の流れについていけない — https://krsw.5ch.io/test/read.cgi/ai/1777211644/
なんかもう世の中の流れについていけない
※ 本記事はAIにより、Reddit・Hacker News・5ch・Xトレンドの公開投稿・トレンドを軸に、その話題をWeb検索で深掘りして集めた一次情報(記事全文・HNコメント)を併せて自動生成されました。本文中の[n]は末尾の引用ソース番号です。内容の正確性は保証されません。引用先を必ずご確認ください。
RECENT COMMENTS