くらし 人権コラム 心、豊かに

■後戻りできないからこそ「賢く」活用
「AIは不正確な情報を表示することがあるため、生成された回答を再確認するようにしてください。」
AIモードを使って検索すると上記のような文が表示されます。
文章の作成や要約、画像の生成など空前の「(生成)AI」ブーム。まるで魔法のような便利なツールですが、例えばあなたがSNSに投稿した写真(画像)が知らないうちにAIの学習に使われているかもしれません。AIがあなたとそっくりの画像を作り、あなたの名前で偽の文章を書き、それが悪意を持って拡散されたら…。そうなると「人格」や「尊厳」に係わる問題に発展してしまいます。
また、AIには序文のような「ハルシネーション(もっともらしいウソ)」という困った特徴があります。誤った情報を学習してしまった結果、「知らないと言えないAI」はウソが混じった答えを返してくることがあります。某大学の教授は、「生成AIを使って作成した学生のレポートには誤情報が多い」と嘆いています。
そうは言っても、AIには便利性だけでなく、さまざまな効果が期待されています。このため、(1)SNSのプライバシー設定を見直し、公開範囲を限定する(2)利用規約やプライバシーポリシーを読んでみる(3)回答を鵜呑みにせず、複数の情報源で確かめるなどについて心掛けておくことが好ましい対応策といえます。
AIやスマートフォン、SNS、ナビゲーションシステムなどの新しい機軸が出回ると「古い対応」には後戻りできません。
かつて大ヒットした映画ではAIの脅威が示されましたが、映画のような大それた脅威を招くことはあり得ないとしても、AIはその使い方によっては、人格や尊厳を著しく傷つける危険性を秘めています。便利なツールについては、それぞれの特性を理解し賢く利用する姿勢を保ち、「必要性と信頼性」を確認し振り返る意識(習慣)を身に付けることが求められています。

問合せ：人権啓発センター
【電話】22-8017(市役所別館1階)