高市首相、Appleに「生成AIの自殺防止・安全対策」を要請〜クック前CEOらも政府連携に前向き

高市早苗首相は2026年10月2日、自身のX（旧Twitter）を通じて、米Appleに対してSiri AIやApple Intelligenceのようなデバイス搭載の生成AIにおける「自殺防止機能」や各種安全対策の実装を要請したことを明らかにしました。

この要請に対し、Appleの前CEOであるティム・クック氏および新CEOのジョン・ターナス氏から前向きな回答が寄せられ、日本政府と連携して安全対策を推進していく姿勢が確認されました。

若者の「生成AI相談」増加と海外リスク事例

近年、若者を中心に悩みの相談相手や会話の相手として生成AIを活用するケースが増加傾向にあります。その一方で、海外では生成AIとの対話に過度な依存を深めた結果、自殺や自傷行為に及んでしまうといった痛ましい事例が報告されており、国際的な大きな課題です。

こうした事態を受け、日本政府はiOS27で強化された子どもの保護機能のように、ユーザーが日常的に触れるデバイスやシステムを提供するプラットフォーマーに対し、直接的な安全管理措置を求める取り組みを強化しています。

高市首相の要請に対し、Appleの幹部陣からは支援窓口への誘導機能や政府連携についての回答が得られました。

項目	内容・要点
要請内容	OSやデバイスに搭載される生成AIでの自殺防止策・安全機能の実装
Apple側の回答	悩みを抱えるユーザーを地域の支援窓口へ適切に誘導する仕組みの推進
今後の連携	日本政府と安全利用に関する目標を共有し、継続的な協力関係を維持

Apple側は、自傷や精神的困窮を示唆する入力を検知した際に、地域の専門支援機関や相談窓口へスムーズに案内するセーフティー機能の強化を進める方針です。

生成AIの急速な普及に伴い、単なる機能性や利便性だけでなく、ユーザーのメンタルヘルスや安全を守る「セーフティーネットの組み込み」が大手テクノロジー企業に強く求められています。

日本政府は今後もグローバル企業との協力を深め、特に子どもや若者が安心してインターネットや最新テクノロジーを利用できる環境整備に注力していく考えです。

生成AIが「24時間いつでも話を聞いてくれる存在」として若者に浸透する中、AI自体に保護機能を組み込むことは不可欠なステップです。

しかし、AIによる自動検知や支援窓口への誘導は、あくまでリスクを未然に防ぐ「入り口」に過ぎません。テクノロジーによる迅速なサポートと、人間による温かみのある専門的ケアがどのようにシームレスにつながるか。AI時代の新たなセーフティーネットのあり方が、今まさに試されています。

Photo：Apple

Now loading...