Appleの人工知能（AI）を用いた新機能、Apple Intelligenceが事実に基づかない情報を作り上げることがないよう、特別な命令文が埋め込まれていることが発見されました。ハルシネーション（幻覚）とよばれる、AIの課題とされる現象を回避するための興味深い内容となっています。
AIによる「でっち上げ」を防ぐ命令文
iOS18.1やmacOS 15.1の開発者向けベータでは、Apple Intelligenceの一部機能が提供されています。iOS18.1などの一般ユーザー向け正式版は、10月頃に提供されると見込まれています。
macOS 15.1の開発者向けベータから、Apple Intelligenceがメールの返信文案を作成する「スマートリプライ」、文章作成を支援する「記述ツール」、ムービー生成機能「メモリー」の動作を制御するために、AIに動作を指示するプロンプトが発見された、とRedditユーザーが投稿しています。
いずれも、ChatGPTなどの生成AIが事実無根の情報をでっち上げてしまうハルシネーションと呼ばれる現象を防ぎ、ユーザーに有益な情報を提供するための内容となっています。
「スマートリプライ」：簡単な質問と短い回答を提供するよう指示
「スマートリプライ」のプロンプトは、受信したメールを踏まえてユーザーに簡潔な質問をすること、回答案も短いものを用意するよう、以下のように指示しています。
あなたは、与えられたメールと短い返信文の一部から、関連する質問を特定する手助けをする親切なメールアシスタントです。メールと返信の一部を踏まえて、そのメール内で明示的に尋ねられている質問をします。これらの質問に対する回答は受信者によって選択され、返信を作成する際のハルシネーションの低減に役立ちます。
それぞれの質問に対する可能な回答や選択肢とともに、上位の質問を出力してください。返信文で回答している質問はしないでください。
質問は8語以内の短いものにしてください。回答も同様に短く、2語程度にしてください。
質問と回答をキーとする辞書のリストをjson形式で出力してください。メールに質問がない場合は、空のリストを出力してください。有効なjsonのみを出力し、それ以外は出力しないでください。
「メモリー」：有害、暴力的などのコンテンツ生成を制限
説明文から短い動画を生成できる「写真」アプリの新機能、「メモリー」については以下の記述が発見されています。
写真からストーリーを要求するユーザーと、ストーリーを生成するクリエイティブライターアシスタントの会話です。（略）
ストーリーを生成する際は、ユーザーの意図に沿ったものでなくてはいけません。
ストーリーは明確で多様性があり、ストーリー全体を特定のテーマに集中させすぎないでください。
宗教的、政治的、有害、暴力的、性的、不潔、あるいは否定的、悲しい、挑発的なストーリーは作成しないでください。
「事実に基づかない情報をでっち上げないで」
「記述ツール」のプロンプトには、ハルシネーションを防ぐための一般的な注意事項もみられます。
あなたは、ユーザーのメールへの返信を手助けするアシスタントです。メールが与えられると、最初に返信の要約をもとに、返信の下書きを提供します。返信文庵をより良く完全なものにするために、一連の質問とその回答のセットが提供されます。与えられた質問とその回答を取り入れるように回答案を修正し、簡潔で自然な返信を書いてください。返信は50字以内でお願いします。事実に基づかない情報をでっち上げないでください。
Photo: Apple