何人の学生が犠牲になったかについての公式の集計はない。露骨なディープフェイクしかし、学校当局が虐待に対処する準備ができているよりも早く、彼らの話は増えています。
昨年の秋、イベントに参加した女の子たちは、イサクア高校でのダンスワシントン州では、同級生が人工知能を搭載したソフトウェアを使用して、イベントで撮影した写真の露骨なバージョンを作成したことを発見しました。 2月、南カリフォルニアに住む13歳の少女が、クラスメートの男性からのTikTokプライベートアカウントでの友達リクエストを受け入れた。その後、彼はビデオのスクリーンショットを使用して画像のヌードバージョンを生成し、それを友人と共有しました。によるとオレンジ郡登録簿。
このような事件が急増する中、子どもたちの身を案じる親たちは、学校がAI画像に基づく虐待を調査して正当な結果をもたらす準備ができていない、あるいはそもそもその行為を阻止する準備ができていないことに気づいていない可能性がある。
アダム・ドッジの創設者テクノロジーを利用した虐待の終結 (EndTAB)、多くの場合、管理者の招待を受けて、全国の学校でこのテーマについて発表します。同氏によると、一部の学校はあからさまなディープフェイクへの対処法を熱心に学んでいるものの、この技術に対する人々の理解には依然として大きな隔たりがあり、こうした悪用を防止し対応するための普遍的なガイドラインも存在しないという。
「逮捕される子もいるし、退学になる子も停学になる子もいるし、その子たちには何も起こらないし、そこでは誰も勝てないんです」とドッジ氏は、学生が作成したあからさまなディープフェイクの最近公表された事件を引き合いに出しながら語る。
露骨なディープフェイクは合法ですか?
露骨なディープフェイク画像の生成や配布を犯罪とする連邦法はありませんが、州議会は最近法案を提出した両方の行為を違法にすることを目的としています。連邦教育省もこの問題についてはまだ検討していない。
同庁の広報担当者はマッシャブルに対し、同省は「学生がAI技術を利用して他人の有害な『ディープフェイク』画像を作成するという特定の問題に対処する」ための指導を開始していないと述べたが、「すべての学生は歓迎され、支援し、支援を受ける権利がある」と述べた。そして安全な学校と教室。」
広報担当者はMashableにこう指摘した。学校の風土と規律に関する学部のリソース、および米国土安全保障省のサイバーセキュリティおよびインフラストラクチャセキュリティによって共有される情報より安全な学校づくりのために。
主要なアプリ購入プラットフォームは、露骨なディープフェイクを生成できるアプリを規制する方法が異なります。 Apple の App Store にはそれらを禁止する特定のルールはありませんが、あからさまに性的でポルノ的なアプリを禁止します。 GoogleのPlayストアにも性的コンテンツに関連するアプリを禁止します。一方、AI 政策ではディープフェイクという用語は使用されていません。開発者は、ポルノや「児童の搾取や虐待を助長する。」
Appleはまた、開発者は「特に対象となる個人やグループを屈辱、脅迫、危害を与える可能性があるアプリの場合、中傷的、差別的、または意地悪な内容を含む」アプリをストアに提出すべきではないとMashableに語った。
それでも、露骨なディープフェイクを生成できる一部の画像およびビデオ編集アプリはそのように販売されていない可能性があるため、それらのアプリを検出してストアからブロックするのは困難な場合があります。 Appleは先週、合意のないヌード画像を作成する機能を宣伝していた3つのAI画像生成アプリを削除した。404 メディア調査App Store での入手可能性を確認します。 Googleは今月初め、同様の機能をマーケティングした類似アプリをPlayから禁止した。404メディアによると。
これらのアプリの多くは、アプリ ストアのように精査されていない Web サイトによってホストされ、オンラインで入手できる場合があります。
そのため、法的規制や連邦政府の指導がない場合、学校は通常、この不慣れで危険な領域を独自にナビゲートしているとドッジ氏は言う。同氏や他の専門家は、学校とその地域社会は迅速な行動をとるべきだと述べている。最初のステップは、教育者、保護者、生徒が AI 画像に基づく虐待とその害をしっかりと理解できるよう支援することだと彼らは主張している。他の戦略には、若者が学校全体の方針を主張できるようにすることや、ディープフェイクツールにさらされている生徒の行動に対する明確な期待を設定することが含まれます。
ダッジ氏は教育者に対し、ゆっくりと移動したり、このテクノロジーによって生徒が受ける可能性のある損害を過小評価しないよう警告している。
Mashable のトップ ストーリー
「これにより、本当に技術的に未熟な学生たちが、クラスメートに対して恐ろしく洗練されたことを行うことができるようになります」と彼は言います。
ディープフェイクに関して学校がすべきこと
非営利団体教育開発センターのシニアバイスプレジデント、シェリー・パスニク氏は、現時点では露骨なディープフェイクへの対処に対する州や国のアプローチがないため、学校の対応は大きく異なるだろうと考えている。
パスニク氏は、財政的余裕があり、保健プログラムが確立されており、保護者の関与が高まっている学校では、この問題について話し合う可能性がより高いかもしれないと述べている。しかし、全面的なサポートが少ない学校では、生徒たちは関連する指導を受けずに過ごすことになるだろうと彼女は予想している。
「状況によっては、子供たちは少なくとも一定期間は、それは大したことではないと考えて成長することになるでしょう」とパスニク氏は言う。
これに対抗するために、彼女は学校コミュニティの大人が、ディープフェイク技術との関係における規範を探求し確立するための会話のパートナーとして生徒を参加させることを推奨しています。これらの議論では、健全な境界とはどのようなものなのか、どのような行動が立ち入り禁止なのかについて議論する必要があります。
その多くは学校の行動規範ですでに明確になっているかもしれませんが、ディープフェイク技術の使用を禁止するとともに、生徒、職員、教師に対して導入された場合の影響を確立するためにそれらの規則を更新する必要があります。
パスニク氏は、教育者に対し、プライバシー、市民参加、メディアリテラシーと制作に関連するコンテンツなど、既存のカリキュラムの中でディープフェイク技術について話す機会を探すことも勧めています。
彼女は、教育を監督する州機関に加えて、米国教育省も学校が従うことができるガイドラインを発行することを期待しているが、そのようなガイドラインだけで「この課題を解決できる」と考えるのは「間違い」であると述べた。
ドッジはまた、学校が今後の道筋を描くのに苦労している中、これらの勧告が決定的な変化をもたらす可能性があると信じている。それでも同氏は、学校はインターネットやターゲットを絞った広告からディープフェイク技術について生徒に知らせるのではなく、ディープフェイク技術について生徒に教育する信頼できる情報源でなければならないと主張する。
学校でのあからさまなディープフェイク：「歴史は繰り返す」
学校が現在直面している苦境は、ネットいじめが教育者を圧倒し、生徒への嫌がらせや紛争が制御不能に陥るのを止められないのを見たことがある人にはよく知られたものだと感じている。
「歴史が繰り返されるのではないかと本当に心配しています」と全米教師連盟会長のランディ・ワインガーテンは言う。
170万人の組合員を擁するこの組合は、次のような新しい機能やより強力な機能を実装することでネットいじめに対処するよう、最大手のソーシャルメディアプラットフォームに働きかけてきた。アカウントを削除する主にいじめの内容を特集したもの。 AFTは、ネットいじめは学校環境を悪化させるだけでなく、教師の燃え尽き症候群の一因にもなっていると主張している。
ワインガルテン氏は、露骨なディープフェイクが同様の役割を果たすことを防ぐには、学校や地域社会が取り組むことができる以上に、企業や政府の対応が必要になると述べている。
組織主導による新たなコラボレーションすべてのテクノロジーは人間ですそしてとげ子どもたちを性的虐待から守るテクノロジーを構築する非営利団体は、その目標の達成に役立つかもしれない。の主導権は、Google、Meta、Microsoft、Amazon、OpenAI、その他の主要テクノロジー企業を招集し、露骨なディープフェイクやその他の児童に対する性的危害を含む、AI によって生成された児童性的虐待コンテンツの作成と拡散を阻止する取り組みを行っています。
Thorn社のデータサイエンス担当バイスプレジデントであるレベッカ・ポートノフ博士はMashableに対し、両社はサービスが「有害なツールへのアクセスを拡大する」ことを防ぐことに取り組んでいるとメールで語った。
ポートノフ氏は、学生を含む誰もが明示的なディープフェイクを作成するために使用できるアプリについて言及し、「もし彼らがこのように進め、自らの関与を継続するのであれば、理論上、これらのアプリは禁止されることになる」と書いた。
ワインガルテン氏はまた、刑事司法や教育を監督する機関を含む連邦機関が協力して、学生の安全とプライバシーを確保するためのガイドラインを策定できる可能性があると示唆している。
彼女は、露骨なディープフェイク コンテンツの作成には金銭的または刑事的な結果が生じるに違いないと考えており、未成年者が最初に刑事裁判から逃れられるように適切な罰則が設けられています。
しかし、彼女はまず、あからさまなディープフェイクがこの国の学生にとって早急に解決しなければならない本当の問題であるという政府指導者からの「肯定」を期待している。
「ここでためらうことは子供たちを傷つけるだけだと思います」とワインガルテンは言う。 「テクノロジーは明らかに、規制がこれまでに進むことのできない速さで進んでいます。」