インターネットのおかげで、子供たちが性について学ぶ方法は変わりましたが、教室での性教育は依然としてひどいものです。で性教育 2.0, Mashable は性教育の現状を調査し、同意、性的肯定性、敬意、責任を教えるためにデジタル革新が使用される未来を想像しています。
次のような製品を推進するアルゴリズムYouTube、フェイスブック、 そしてりんごの iOS ソフトウェアには共通の課題があります。それは、ポルノと性と生殖に関する健康に関するコンテンツを一貫して区別できないようです。
なぜなら、タイムラインや検索結果に「アダルト」コンテンツが表示されないよう設計されたコードは、インターネット ユーザーにセックス、セクシュアリティ、健康に関する率直な事実情報を提供することを目的とした教育コンテンツも簡単にブロックしてしまう可能性があるからです。
批評家らは、アルゴリズムの混乱は怠惰なエンジニアリングとテクノロジーの悪名高い多様性問題を反映している可能性があると指摘している。ヌードやポルノをウェブの片隅に追いやることを意図したコードを書くエンジニアが、特にLGBTQの若者や歴史的にオンラインで疎外されてきた他のユーザーにとって、性と生殖に関する健康コンテンツにアクセスすることの重要性を理解したり気にしたりしないのは当然のことだ。アルゴリズムは可能な限り広範囲のコンテンツをブロックします。批評家はまた、この問題に対する直接的な解決策が存在すると信じているが、ハイテク企業は懸念に対処することに関心がないと述べている。
オンラインの性的健康会社O.スクール 報告されました10月には、ペアレンタルコントロール設定を有効にしたiPhoneの新しいソフトウェアが、Webサイトだけでなく、十代の若者向けの多数のエンターテイメントサイトや健康リソースをブロックした様子を報じた。フィルターは次のようなサイトを制限しましたが、ティーン・ヴォーグそしてスカーレティーン、ネオナチのようなウェブサイトへのユーザーのアクセスを拒否しませんでした。デイリーストーマーもしくはアンチゲイウェストボロ バプテスト教会。
この衝撃的なコントラストにより、O.school の創設者である Andrea Barrica 氏は、Apple のアルゴリズムが、ユーザーを禁止コンテンツ (つまり「ティーン ポルノ」) に誘導する可能性のあるクリックを防ぐために、ティーンなどの特定の用語を全面的にブロックしているだけかもしれないと確信しました。しかし、バリカさんは自分の疑念を確かめることも払拭することもできず、Apple のアルゴリズムについて何も知ることができなかった。
バリカさんは自身のネットワークを使ってアップルの従業員に連絡を取り、状況について話し合いたいと考えたが、沈黙に遭った。その後、彼女は次の本を出版しましたブログ投稿「検閲と性教育」というタイトルで、Apple への鋭い質問が含まれています：フィルターを設計したのは誰ですか?親には相談されましたか？保守派と宗教団体？医者と性教育者？どの非ポルノサイトがブロックされていますか?
彼女はアップルから何も連絡を受けなかった。同社はMashableに対し、アルゴリズムやBarrica氏の投稿についてコメントしなかった。
「彼らは問題を回避するために、最も保守的な方法でポリシーを作成しています。」
「彼らは性教育をターゲットにしていない。問題を避けるために最も保守的な方法で政策を書いている」とバリカ氏は主張する。 「アップルのセクシュアリティに対する保守的な考え方は、非常に広範囲に影響を及ぼします。」
自社のコンテンツがオンラインで見られるかどうかを管理するプラットフォームに公開書簡を書いたのはバリカ氏だけではない。 2017 年 5 月、月経追跡アプリ Clue のライターが次のように詳しく述べています。ブログ投稿Facebookが性と生殖に関する健康に関するコンテンツを宣伝する同社の広告をどのようにブロックしたか。外陰部、乳房、ペニスを描いた教育的なイラストはブロックされました。下着、出産の話、思春期のアドバイスに関する投稿を宣伝する広告も拒否されました。
Clueの代表者は、同社はこの問題についてコメントすることを拒否したが、2017年の投稿を支持すると述べた。 Facebookの広報担当者は、Clueの広告が同社の広告ポリシーの制限に違反していると述べた。アダルトコンテンツ「特に、ヌードや個々の体の部分に焦点を当てた画像を含む広告を禁止しています。Facebook の広告ポリシーは世界中に適用されており、Facebook の広告ポリシーよりも厳格です」コミュニティ標準。 Clue は引き続き Facebook でコンテンツを公開し、広告を掲載します。
マッシュ可能な光の速度
驚かせてください、青少年向けの性教育ビデオ シリーズも、同様の問題に直面しています。YouTube。約 3 年前にチャンネルが開設されて以来、84 本の動画のうちいくつかは「アダルト」コンテンツとみなされ、広告を拒否されてきました。これらには、女性と男性の生物学的解剖学に関するビデオが含まれます。
AMAZEの広報担当リンカーン・モンディ氏は電子メールで、「YouTube広告はAMAZEの活動にとって極めて重要である。なぜなら、セックスやメンタルヘルスなどに関する指針を求めている世界中の若者にリーチできるからだ」と述べた。
AMAZE はアダルト コンテンツとみなされませんが、そのビデオには性器の正確な描写や性的健康に関する議論が含まれています。その率直さは、時には生々しいものですが、アルゴリズムや人間の審査員によって、アダルト コンテンツの広告に対するプラットフォームのポリシーに違反していると認識される可能性があります。家族向け以外の安全なYouTube は、アルゴリズムに影響を与えるポリシーや慣行についてコメントすることを拒否した。
ハイテク企業は、ポリシーに違反するコンテンツにフラグを立てることで、自社のアルゴリズムが実際には設計どおりに機能していると主張するかもしれない。しかし、たとえば、教育の場面で乳房の良性のイラストが不快であるとみなされるという事実は、より大きな問題を引き起こします。
エンジニアやハイテク企業が直面している課題の 1 つは、今日インターネット向けに制作された性的健康に関するコンテンツには、伝統的にセックスについて語ることに伴う汚名や恥辱が含まれていないことが多いという現実です。あいまいな用語や説明を使用する堅実な説明の代わりに、この新世代のコンテンツは、潜在的に恥ずかしい質問をしたり答えたり、社会から疎外された読者のさまざまな懸念に敏感に対処し、性器の正確な描写を恐れずに使用することで、かつてはぎこちない会話だったものをきれいに聞こえるようにしています。途中で楽しい。
したがって、この傾向に注意を払っていない、あるいはその傾向に気づいていないエンジニアは、インターネット上に表示される最も露骨な言葉や画像がポルノへの入り口である可能性が高いと想定したコードを作成する可能性があります。
「力関係の1つは、彼らがこれを事件としてまったく考えていないことです」と彼は言いますジョン・ピンカス, ソフトウェアエンジニアであり起業家であり、O.schoolの顧問を務めています。 「怠惰なのか、過度に単純化されているのか、私の推測では、合法的な（性と生殖に関する健康）項目を受け入れ、他の項目を排除しているかどうかを実際に測定しようとしていないのではないかと思います。」
ピンカス氏は、現在よりも大幅にパフォーマンスが向上するアルゴリズムを設計するのは難しくないと言う。エンジニアとエンジニアを雇用する企業は、公平性、説明責任、透明性を次のように受け入れることができます。指導原則特に、正確な性教育情報をオンラインで入手できるかどうかは公衆衛生上の問題であるためです。
ツイートは削除された可能性があります
理想的には、機械学習アルゴリズムを使用する企業は、受け入れたい有効な性と生殖に関する健康情報、および拒否したいアダルト コンテンツやポルノについての単語、画像、説明を使ってトレーニングすることになります。
ピンカス氏は、テクノロジー企業は哲学的なアプローチを超えて、性と生殖に関する健康の専門家を招待して、アルゴリズムの設計方法についてフィードバックを提供してもらったり、コンサルタントとして雇用したりすることもできると述べている。ピンカス氏は、スタッフに対象分野の専門家がいない場合、これが業界の一般的な慣行であると述べています。
AMAZE の Mondy 氏もそのようなアプローチに同意しています。
「私たちにとって唯一の解決策は、テクノロジー大手と性的健康の専門家がアルゴリズムやコンテンツブロッカーを作成する際に意図的に提携することだ」と同氏は述べた。 「テクノロジー大手は性的健康の専門家ではないので、オンライン情報に関して何が『年齢に適した』のか、何がそうでないのかについて、そのような重大な決定を下すべきではない。」
「テクノロジー大手は性的健康の専門家ではない。」
しかし、これらの企業はその権限を放棄し、自社製品に対する外部の影響力を与えることに消極的です。タンブラーのとき発表された先週、同社がアダルトコンテンツを禁止すると発表したが、同社の広報担当者はアルゴリズムや人間の審査員が性教育とヌードやポルノを区別する基準について説明を拒否したが、代わりに次のように述べた。健康関連の状況" はプラットフォーム上で引き続き許可されます。
シリコンバレーの冷酷な競争を考えると、透明性への抵抗は当然だが、テクノロジー企業には、性と生殖に関する健康情報へのアクセスを最大限に高める可能性のあるより微妙なアルゴリズムを作成することで、主要な広告や Apple のアプリストアでの地位を危険にさらすインセンティブはないとバリカ氏は考えている。ポルノ コンテンツを隙間から見逃しましょう。
「それは本当に恐怖に基づいています」と彼女は言います。 「それは包摂性と多様性の欠如に戻り、そして偏見に戻ります。」
「人々が何をするのか、何を見せないのかをコントロールするには、非常に大きな力があります。」