人工知能(AI) が世界を征服していると言うのはまだ誇張ですが、人工知能が世界を変革しているとは言えません。少し前まで、AI はアーサー C. クラークの物語の焦点でしかなく、未来の予測や自動メカニズムの生成などのテーマを探求していました。現在、このリソースは物や場所をピクサーのアニメーションに変換したり、歌手の声を他の身体でエミュレートしたり、音楽を作成したり、エッセイを書いたり、仮想支援を提供したり、銀行取引を行ったりすることができます。
何十年にもわたって進化してきたにもかかわらず、突然、AI が会話の主要なトピックの 1 つになりました。その理由は、刺激的であると同時に恐ろしい新たな技術的可能性のためです。コンピューターはすでに人間の知的能力よりも速く答えを提供する能力を備えているため、人間よりも能力が高いのではないかと懸念されています。
人々は、AI の力と優位性が、人間の労働に代わって重要な領域に影響を与えるだけでなく、人間を『アイ、ロボット』 （1950 年）の物語の中心に据えるほどの大きな自律性を引き受けることができるようになるのではないかと疑問に思っています。アイザック・アシモフ。
会話型AIと生成AIを利用して大手電子商取引ブランドの顧客サービスを自動化するDigitalGeniusの共同創設者、ボグダン・ムクサック氏は、ハリウッドはロボットが人間の仕事を引き継ぐという極めて非現実的なシナリオを描いているが、そんなことは起こらないことは誰もが知っていると語った。 。ただし、実際には AI が人間のインタラクションに取って代わるわけではありませんが、良くも悪くも AI と密接に関係する可能性があります。
その好例として、生成型 AI が、主にハマスとイスラエルの紛争に関するフェイク ニュースの拡散において基本的な役割を果たしていることが挙げられます。
生成AIとは
生成 AI は、テキストから音声、合成データまで、さまざまな形式のコンテンツを数秒で生成できる人工知能の一種です。有名なチャットボットを通じて 1960 年代半ばに導入されたにもかかわらず、生成 AI が画像、ビデオ、音声を作成できるようになったのは、機械学習アルゴリズムの一種である敵対的生成ネットワーク (GAN) の導入により 2014 年になってからです。説得力のある本物の人々。
ChatGPT などのソフトウェアの登場により、生成 AI ツールの普及により、ディープフェイク(デジタル的に偽造された画像や動画) や企業のセキュリティに有害なサイバー攻撃の蔓延が加速する可能性があるという懸念が生じました。
現在の問題は、生成 AI が別の悪、つまりフェイク ニュースと関連付けられていることです。ソーシャルメディア上のボットを通じて拡散されるかどうかに関係なく、最近のブラジルや米国の選挙期間中や新型コロナウイルス感染症パンデミックの最中に起こったように、社会のパノラマを変えることを目的として意図的に間違った情報を広めます。そして現在も同様です。 の戦争。
混乱する現実
1カ月前、ハマスの過激派がイスラエルに侵攻し、組織的なテロ攻撃を開始した。攻撃直後の数時間で、何が起こっているかを示すビデオや写真がインターネット上に溢れた。実際の画像やレポートは、虚偽の主張を広めたり、生成 AI を使用してビデオや写真を偽ったり改ざんしたりする多くのユーザー（ほとんどが政治的支持者）の中で失われています。
発明の中には、ソーシャルメディアのプロフィールで、イスラエルの上級司令官が誘拐されたという虚偽の主張が共有されたり、 BBCニュースの報道を模倣した偽のビデオが流布されたり、不正確な英語の字幕が付いたロシアのウラジーミル・プーチン大統領の無関係な古いビデオが公開されたりした。
オンライン偽情報を研究するアトランティック評議会デジタル法医学研究所の副編集長レイラ・マシュコール氏によると、AIが生成した偽情報の多くは、活動家が政治の特定の側への支持を求める、あるいはより広範な支持を装うために利用されているという。戦争。その例としては、イスラエル国防軍を擁護するテルアビブの AI 生成看板、ハマスへの非難を生み出すためにツールを使用したイスラエルのインフルエンサー、イスラエルによるガザ地区爆撃の犠牲者を描いた AI 画像などが挙げられます。
この種の AI の悪意のある使用は最悪のものではありませんが、ソーシャル メディア上で流通する誤った情報の量の中心として機能し、ジャーナリズムの仕事が真実の内容と偽の内容を区別することを困難にしています。その一方で、ユーザーは、悪意を持った人々によって知性によって形作られた画像やビデオをさらに広めることになります。
私たちが問題なのでしょうか？
今年 10 月、研究者グループは、世界中での誤った情報の拡散における生成 AI の役割について、ハーバード大学ケネディ スクールの誤情報レビューに記事を発表しました。彼らは、AIによって人々が誤った情報を広めることを可能にしているにもかかわらず、テクノロジーの影響に関する懸念が実際には誇張されていると主張した。著者らによると、そうした人々は組織に対する信頼が低いか、熱心にフォローしているウェブサイトやプロフィールですでに陰謀論に囲まれている強力な支持者だという。
この研究では、生成 AI が高度にパーソナライズされたリアルなコンテンツをレンダリングできるものの、Photoshop やビデオ編集ソフトウェアなどの他のツールも同様の機能を備えていることに注目し、生成 AI の肩から責任を取り除くという考えをさらに掘り下げています。 。結局のところ、低解像度のビデオや写真の日付を変更することは、誤った情報を広めるのと同様に効果的である可能性があります。研究者らが実施した調査は、ジャーナリストやファクトチェッカーがディープフェイクよりも、文脈を無視して切り取られた画像や、本来とは異なるものに加工された画像に苦戦していることを示していただろう。
この論文の共著者でチューリッヒ大学デジタル・デモクラシー・ラボの研究員であるサーシャ・アルタイ氏は、この意味で派手なテクノロジーに過度に注目するのは危険信号になる可能性があるとワイアードに語った。 「現実的であることが必ずしも人々が求めているわけではないし、インターネット上で拡散するために必要なことでもない」と彼は言う。
結局のところ、それは理にかなっています。スタンフォード大学の心理学者サム・ワインバーグのチームが実施した実験では、デジタルに精通した10代未満の若者からIQの高い学者に至るまで、あらゆる年齢のアメリカ人が、電子書籍で見つけたコンテンツに関する重要な質問に答えることができないことがわかりました。ブラウザ、私たちのオンラインの素朴さの程度を確認します。
2016年のピュー・リサーチの調査では、アメリカ人の4分の1近くがでっち上げのニュース記事をシェアしたことがあると答えた。マサチューセッツ工科大学（MIT）の認知科学者デイビッド・ランド氏によると、人は平均して少なくとも20％の確率でフェイクニュースを信じる傾向があるという。ワインバーグ氏が、私たちは皆「車を運転しているが、誰も運転することを許されていない」と言うのも不思議ではない。
結局のところ、ワインバーグ氏やアルタイ氏のような専門家にとって、問題は生成 AI から生成された悪意のあるボットや勤務中の嘘つきだけではなく、私たち敏感な読者全員にあるのです。ジャーナリストのケイティ・スタインメッツ氏によると、デジタル世界での考え方を理解すればするほど、解決策に参加できる可能性が高くなります。