For Hollywood, scary AI is an old trope. It's now a true threat.

の恐怖人工知能映画やテレビの製作者にとって肥沃な土壌であることが長い間証明されてきました。そしてそうです、それはたいてい物事の終末的な側面で誤りを犯します。

マスター・オブ・ザ・ワールド、2001年宇宙の旅、エクス・マキナ、ターミネーターそして マトリックスフランチャイズ、アベンジャーズ：エイジ・オブ・ウルトロン、私、ロボットのエピソードもXファイルそしてシンプソンズいくつか例を挙げると、それぞれが人類に対する機械学習の脅威と戦ってきました。これらの映画は、未知の技術や差し迫ったシンギュラリティの脅威に対する観客の社会的不信に基づいており、通常は殺人ロボットや、地球を救うためにハッキングが必要なメインフレームが登場します。しかし、数十年が経つにつれて、私たちがかつて考えていたことはSFは科学的現実に近づくように進化し、敵対的な SF の比喩がタイムリーにスクリーンに復活しました。

昨年、M3GAN、男の子、オペレーション・フォーチュン: 戦争の策略、ミッションインポッシブル: 推測航法- パート 1そしてもちろん、ブラックミラー彼らはテクノパラノイアと明確に取り組んできました。これらのスクリーンストーリーは合わせて、AIの悪用についての視聴者への警告を繰り返し、企業や官僚組織によるその邪悪な実装に疑問を投げかけ、その能力が倫理的にテストされる前にAIを一般に公開することに対する警告を繰り返している。

彼らはまた、AI の経済的および創造的な脅威についてハリウッドで現実世界の不安がピケットラインで戦われているときに到着しました。映画俳優組合 - アメリカテレビ・ラジオ芸術家連盟 (SAG-AFTRA) は、2016 年にアメリカ脚本家組合 (WGA) に加盟しました。ストライク2023年7月には60年ぶりに労働組合の代表者が映画テレビプロデューサー同盟（AMPTP）とより公正な条件で交渉している。これには、AI ツールによって時代遅れになることに対する契約上の保護が含まれます。しかし、カメラの前でも後ろでも、本当の脅威は AI なのか、それとも AI を利用している人間なのか?という疑問が残ります。

画面上でも画面外でも人間対 AI です

ジェラルド・ジョンストン監督のホラー映画でM3GAN、人工知能を持った人形が自意識を持って所有者に執着し、殺人事件を起こし、自分自身のファイルを削除して破損することでその痕跡を隠蔽するため、それはAIが担当しているようです。

しかしM:I7スターのヘイリー・アトウェルは、人間の責任にもっと傾いている。第7弾では、ミッションインポッシブル、エンティティと呼ばれる不正な知的AIがその人間プログラムを侵害し、それを制御しようとする世界強国に対するサイバーテロキャンペーンに乗り出します。しかし、アトウェル氏は、この種のテクノロジーが本質的に破損していることについてはそれほど心配していません。

「権力、お金、AI、それ自体は中立的なものだと私は感じています」とアトウェル氏は語った。 フェード・トゥ・ブラックSAG-AFTRAがストライキに参加する前に行われたインタビューでのポッドキャスト。 「重要なのは、それがどのように使用され、どのように悪用され、何に使用されるかです。[AI] 自体は私を怖がらせません。進歩しているものを恐れるということは、AI の適切な使用に参加していないことを意味するからです。」

ハリウッド自体は、映画の悪役のように、人類を直接脅かすために AI を（まだ）使用していませんが、その使用は交渉における中心的な倫理的議論となっています。多くのハリウッドの俳優と作家は議論するだろうAIを推進するスタジオの幹部たちはAIの正しい使用に参加していないということだ。によるとブラッククリスマス脚本家でWGA会員のエイプリル・ウルフ、その2作目クローフットはポストプロダクション段階にあり、機械学習ツールは当初、AMPTPに対するWGAの新たな取引案の主な争点ではなかったが、「しかし、（彼らが）AIに関してまったく動じなかったという事実は、基本的に彼らの手を放棄したのです」と彼女は説明するマッシャブルに。

「AIが他の業界にどのような影響を与えるかという類似点を私たちはすでに見てきました。それはすべて基本的に同じ問題です。大物や会社のトップがAIをやりたがるのは、AIがコスト削減であり、労働力を削減したいと考えているからです。 」

AI の学習と、このような人間の技術の引き継ぎに対する企業の熱意は、労働者 (この場合は作家) の評価を下げることにつながります。

「一生をかけて工芸品の訓練をしているのに、誰かがあなたがいなくても大丈夫、ロボットならできると言うのです。本当にひどい気分です」とウルフ氏は付け加えた。

市場に参入する AI ライティングおよびコンテンツ作成ツールの数は増加しています。チャットGPTは、約1万1500人の脚本家を代表するWGAに対し、スタジオがアウトラインや初稿を書くために脚本家を使用しないよう要求するよう強く求めた。これにより、作家は単独の信用給与小切手を受け取ることができなくなります。 WGA 会員が最初の脚本家として脚本を書き出すのではなく、脚本のリライトや推敲のためだけに依頼された場合、収入は大幅に少なくなります。このように AI を利用すると、WGA の会員が「保険や年金の資格を得るための最低額を稼ぐ」ことがより困難になるだろうと脚本家は述べています。

現在の最小値は、年金制度計画は、1 年間の健康保険の資格を得るために、5,000 ドル (3,972 ポンド) と、4 暦四半期にわたる対象となる仕事の約 41,700 ドル (33,129 ポンド) です。最新の報告書によると、労働組合が認めた仕事や、10年間のWGA健康保険加入資格を得ることで、10万ドル以上のクレジットを獲得することもできるという。WGAの数値, 年間約25万ドル（19万8,617ポンド）を稼いでいます（税金、組合費、チーム内のエージェント、マネージャー、弁護士への支払い前）。

しかし、メンバー全員が十分に安定して働いているわけではなく（プロジェクトの間には何年もかかることも多く、中には映画やシリーズ化にゴーサインが出ていないものもある）、ハリウッドのギグエコノミーで報道を維持するのに十分な給料をもらっているわけではない――特にこのストライキが続く中は。 SAG-AFTRA メンバーの場合、によると俳優タビ・ゲビンソン, 160,000人を超えるギルドメンバーのうち、組合健康保険の資格を得るために必要な年間26,470ドルを稼いでいるのはわずか12.7パーセントです。幸いなことに、SAG-AFTRA は、ストライキ開始前に少なくとも 22,000 ドルの収入があった会員に対して、年末まで健康保険の適用を継続することを承認しました。

第二に、AI は創造的な独創性と誠実性の低下を示すだろうとウルフ氏は指摘しています。生成 AI 執筆ツールは、インターネットから検索した既存のスクリプトや文献の供給に依存しています。 「すでに行われたことをAIに吐き出させることしかできません」と彼女は言う。 「それは、ストーリーテリングの進歩が完全に停止されることを意味します。」

置き換え要因

両方シーハルク そしてブラックミラー今年は、AI が生成したストーリーテリングのアイデアを軽蔑的なプロット ポイントとして使用しました。 Disney+ シリーズは、マーベル・シネマティック・ユニバースが KEVIN によって書かれているというメタジョークを提供していますが、マーベル・スタジオの責任者であるケビン・ファイギにちなんで名付けられた強化 AI である、チャーリー・ブルッカーのブラックミラーエピソード「ジョーンはひどい」ストリーミングホームのNetflixが企業悪者に変わり、ストリームベリーと呼んでいますそして、同社の CEO が、ユーザーのデバイスから取得したプライベートな音声録音を使用してパーソナライズされたストーリーを自動的に生成するクァンピューターを使用して、ドラマチックなコンテンツのために加入者の生活を搾取しているのを見ました。

NetflixはすでにAIツールを採用そのような機械学習プラットフォーム「クリエイティブな意思決定者を支援」し、どの映画やシリーズを委託して宣伝するかを選択する際のリスクを軽減します。今年の初めに、Netflixは背景アートの生成にAIを使用していることでも批判された短編映画用に犬と少年。さんのツイートでNetflix日本、同社は、Netflix Anime Creators Base、技術開発者のrinna Inc.、およびWIT STUDIOの取り組みが、労働力不足のため「アニメ業界を助けるための実験的な取り組み」であると示唆した。かつてスタジオジブリの共同創設者である宮崎駿氏言った2016年のドキュメンタリーでは、AIが生成した画像について「これは人生そのものに対する侮辱だと強く感じている」と述べており、アーティストコミュニティの多くがその感情を共有している。欲求不満労働力不足の大きな要因である低賃金と長時間労働について。

英国の俳優であり、SAG-AFTRAのメンバーでもあるヒメーシュ・パテルは、『ジョーンはひどい』に自分自身のディープフェイク版として出演し、「芸術性を高めるのではなく、芸術性を損なう可能性のあるテクノロジーの使用が懸念されている」とMashableに語った。に登場するブラックミラーこのエピソードだけでなく、会議で組合の代表者が収集した情報も「警鐘」になったと彼は言う。

パテル氏は、SAG-AFTRAの首席交渉官ダンカン・クラブツリー・アイルランド氏のことを指す。主張したAMPTPは「背景出演者がスキャンされ、1日分の給料を受け取ることができ、彼らの会社がそのスキャン、画像、肖像を所有し、それを永久に使用できるようにすることを提案した。彼らが望むどんなプロジェクトでも、同意も補償もなしで。」映画監督のジャスティン・ベイトマンのような人もいます。提案されたスタジオ側はまた、「（生成的な）GAIモデルを訓練するために、100年間にわたる演技のパフォーマンスを（わずかな料金で）提供したい」とも考えていた。 AMPTP には、論争のあるこれらの主張は正しいが、知らず知らずのうちに自分の肖像をサインで奪われてしまう恐怖は非常に現実的であり、これが「ジョーンはひどい」の基本的なプロットポイントである。

「これらのことは、契約書に特定の文言を挿入することでこっそり行われ、その後署名することになりますが、私はそれを徹底的に精査してくれる人々がいるという恵まれた立場にあります」とパテル氏は言う。 「一方、私たちがストライキをしている人々、そしてこの保護を必要としている人々は、概して、医療を受けるのに十分な収入がない人々であり、ましてやこれらすべての契約を精査するために企業弁護士を雇うのは言うまでもない。彼ら。"

自主性と芸術性を損なう

ウルフ氏はまた、この種のディープフェイク技術が検閲の強化や、俳優の意図した演技や作家の意図したストーリーの歪曲につながるのではないかと懸念している。彼女は2022年の映画を指さす秋、この作品は、R 指定を PG-13 に変更するために、Flawless 社の AI ツールを使用して F ワードの 30 個の発話を吹き替え、俳優のヴァージニア・ガードナーの唇と新しいセリフを照合しました。

「観ていると、何か奇妙な感じがした」と彼女は振り返る。 「さまざまなものを検閲しようとするさまざまな政権のために、このアプリケーションが国内または海外でどのように使用されるかということは、クリエイターとしては少し怖いことです。なぜなら、それは何が起こっているのか、自分の映画がどのように認識されるのかをあまりコントロールできないことを意味するからです」さまざまな場所で。」

イギリスのSFスリラーでティムスペンサー・ブラウンが脚本を監督し、妻の作家サラ・ゴヴェットと共同執筆したこの作品では、AIの下僕がその所有者である義肢技師のアビ（ジョージナ・キャンベル）に危険なほど執着するようになる。このロボットは、ディープフェイクビデオや音声技術、さまざまなプライバシー侵害を利用して、アビと夫の結婚生活に亀裂が生じるよう感情的に操作します。同様にブラックミラーズジョアン、アビ、ポールは、TIM が自分たちのデータにアクセスすることに同意しますが、データがどのように重大な悪用される可能性があるかを認識していませんでした。

「私たちが自発的に家に持ち込むこれらのデバイスが私たちを盗聴し、私たちを操作しようとしているという考えが出発点でした」とゴヴェット氏はMashableに語った。

「私たちはプライバシーについても非常に偏執的です」とブラウン氏は付け加えた。 「私たちはその侵略が非常に恐ろしいと感じており、テクノロジーというこの究極のストーカーをほぼ擬人化したような何かをしたいと考えました。」

ティムは人間のように見えますが、本物の人間の感情を決して経験することができません。この点を映画製作者は強く訴えました。

「私たちの場合、AI は感情を偽ることはできますが、感情を適切に保持することはできません」とゴヴェット氏は言います。 「それは実際には単なるコードの羅列、ロジックです。AI について私が最も恐れているのは、その冷たさです。」

彼らはまた、AI ライティング ツールが学習した文章以上に独創的なものを提供できるかどうかについても確信を持っていません。

「ChatGPT が初めてニュースになったときに、私たちは ChatGPT に取り組みました」と Brown 氏は言います。 「思いついたこと、どんでん返しはすべて、100回は見たことのあるものでした。」

画面の内外を問わず、AIが悪者の手に渡れば人間にとって無視できない脅威であるというのが、明らかにコンセンサスだ。それがコスト削減に関する職場倫理の観点からであれ、AIをツールとしてではなくライターとして採用する創造的な試みであれ、ディープフェイクのアバターを通じて俳優の自主性を剥奪することであれ。スタジオがオリジナルの感情的思考ができない AI テクノロジーを導入すれば、映画やテレビは打撃を受けるでしょう。そのため、ハリウッドにおける現実世界の恐怖が激化する限り、殺人ロボットやアルゴリズムが人間のクリエイターを出し抜いたり、加入者の命を搾取する極悪なテクノロジー企業についての架空のストーリーの勢いが衰えることはないだろう。

「私たちの中の皮肉屋は、芸術とは人々が情報を取得し、それを別の方法で吐き出すことだけだと考えるかもしれません。しかし、私たちが忘れているのは、芸術の人間的な要素です」とパテルは言う。 「この物質が出てくるには、無形のフィルターがもう 1 つあります。[AI] ではそれを再現できません。」