With iOS 10, Apple may have solved a huge privacy riddle

とiOS10を選択すると、携帯電話がメッセージ内で次に使用するフレーズまたはアドレスを提案します。マップ アプリは、おそらく行きたい近くのレストランを表示し、写真アプリは顔とシーンを認識します。

いいことのように聞こえますが、携帯電話 (または、間もなく Mac) がこれらすべてをどのように認識しているのか、そして携帯電話がどのようにプライバシーと互換性があるのか​​を立ち止まって考えてみるまでは。

この種の予測を行うには、Apple がユーザーとユーザーの習慣に関する多くの情報を持っている必要があり、そのデータをどこかに保存する必要があります。論理的には、データをのぞき見から完全に保護したい場合は、携帯電話が文章を終えることを忘れてもよいということになります。ケーキを持って食べることもできません。

でも、もしかしたらできるかも知れません。

月曜日のWWDC基調講演で、Appleのソフトウェアエンジニアリング担当上級副社長クレイグ・フェデリギ氏は、AppleがiOS 10で採用しようとしている「差分プライバシー」と呼ばれる概念について言及した。これは、数学を使用してプライバシーを保護しながらユーザーのデータを分析できる技術である。そしてそれはありますが一度も使用されていない非常に大規模な取り組みにおいて、Apple は自社の巨大なユーザーベースに取り組むことに自信を持っているようだ。

プライバシーに対する 2 つの側面からのアプローチ

Federighi 氏によると、差分プライバシーでは「ハッシュ、サブサンプリング、ノイズ注入」を使用して、ユーザーのデータのプライバシーを確​​保しているとのことです。 「Appleは、差分プライバシーを大規模に展開できるようにするために、この分野で非常に重要な取り組みを行ってきた」と同氏は基調講演で述べた。

「Apple は、差分プライバシーを大規模に導入できるようにするために、この分野で非常に重要な取り組みを行っています。」

フェデリギ氏は、この問題の専門家であるペンシルバニア大学のアーロン・ロス氏の承認を誇示し、彼は差分プライバシーの分野におけるアップルの取り組みを称賛したようだ（ロス氏の著書「差分プライバシーのアルゴリズム基盤、無料ここ）。

「差分プライバシーをAppleのテクノロジーに広く組み込むことは先見の明があり、今日のテクノロジー企業の中でAppleを明確なプライバシーリーダーとして位置づけている」とロス氏は述べたという。

Apple のプライバシーへの取り組みにはもう 1 つの重要な側面があります。これらのプロセスの多くはユーザーのデバイスから離れることはありません。 Appleはこれを「オンデバイスインテリジェンス」と呼んでいます。

「iOS 10 は、オンデバイス インテリジェンスを使用して写真内の人物、オブジェクト、シーンを識別し、QuickType の提案を強化します。Siri、マップ、ニュースなどのサービスはデータを Apple のサーバーに送信しますが、このデータはユーザー プロファイルの構築には使用されません」と Apple言うiOS 10 プレビュー ドキュメントに記載されています。

これの明らかな欠点は、iPhone または Mac が追加の計算作業を行わなければならないという事実ですが、Apple がスマートな予測を行うことを可能にするデータの一部が Apple のサーバーに存在しないことを知ると安心します。 FBIが再びそうなった場合、それは重要な要素になる可能性がありますアップルに尋ねるユーザーのデータを引き渡す -- Apple がそれを持っていないだけでは、従うことはできないだろう。

ここでは、差分プライバシーとオンデバイス インテリジェンスの組み合わせが Apple ユーザーにとってどのように機能するかを示す仮説的な例を示します。ボブ、スー、メアリーという 3 人の iPhone 所有者を想像してください。ボブは毎朝、家の近くのスターバックスでコーヒーを飲むのが好きです。スーとメアリーはお互いにたくさんのメッセージを送り合います。 Apple は、ボブが iPhone でマップ アプリを開いたときに、近くのスターバックスのすべての店舗を表示できるようにしたいと考えています。 Apple はまた、スーとメアリーが互いにメッセージを送信する際に、最近オンラインで検索した企業の電話番号や住所などの提案を提供したいと考えています。

Apple は本質的に、有益な情報を収集することをはるかに困難にするでしょう。

しかし、ボブ、スー、メアリーはおそらく、どこで飲みに行きたいか、誰と話しているか、インターネットで何を検索しているかを政府やハッカー、さらには Apple に知られたくないのでしょう。したがって、Apple はすべてのデータを取得してサーバー上で分析することはありません。代わりに、分析の一部はユーザーの携帯電話で行われます。

それでも、Apple は間違いなく、上記のような新機能を構築できるようにするために、このデータの一部を取得して分析する必要があるでしょう。ここで差分プライバシーが登場します。データが正しい方法で抽出され、（ランダムなビットを追加するなどして）隠蔽されれば、Apple はスー、メアリー、ボブに関する特定の情報を取得できなくなります。実際、Apple は本質的に、有益な情報を収集することをはるかに困難にすることになるでしょう。 Apple、あるいはこのデータを入手した他の人は、ボブがどこでコーヒーを飲むのが好きか知りません。しかし、Apple は、個々のユーザーの大量のデータを組み合わせることにより、特定の地域の人々が通常どこで朝コーヒーを飲んでいるかを把握できるはずです。

実際のタクシー乗車の例を基に、これがどのように機能するのかについての優れた分析が見つかります。ここ。

これは匿名化とは根本的に異なります

あなたがオンライン サービスにサインアップするときにさまざまな利用規約を実際に読む人であれば、以前に同じようなことを聞​​いたことがあるかもしれません。通常、この会社またはその会社のサービス向上に役立てるために匿名データの送信を求められ、名前、住所、電子メールなどの個人を特定できる情報はすべてデータから削除されていると言われます。

しかし、匿名化は常にうまく機能するとは限りません。ロス氏は著書の中で、「データを完全に匿名化して有用なままにすることはできない」と主張し、2007年に購読者記録の匿名化に成功したNetflixの例を挙げている。リンクされたNetflix のデータと IMDb のデータを比較することで、実際の人物に当てはめることができます。

簡単に言えば、あなたの名前も住所も知らないかもしれませんが、あなたの好きな映画 10 本がわかっていて、それをあなたの名前が存在する別のサービスの記録と比較できれば、点と点を簡単に結びつけることができます。

(非常に少数のユーザーからの大量のデータを扱う場合など) 課題がないわけではありませんが、差分プライバシーによってこの問題が解決され、大規模なデータセット内のパターンが個々のユーザーにまで遡ることができなくなります。

考えられる問題

Apple の壮大な主張にもかかわらず、あるいはおそらくそのせいで、一部の専門家は依然として懐疑的です。セキュリティ専門家のジョナサン・ズジアルスキー氏は、そもそもAppleはユーザーに関するこれほど多くのデータを収集すべきではないとツイートした。

そして、暗号化の専門家であるマシュー・グリーン氏は、Appleが差分プライバシー（かなり学術的な概念）を大規模に実装できるかどうかについては懐疑的だ。

差分プライバシーの概念は、少数の専門家だけが興味を持つ難解な数学の問題のように聞こえます。しかし、これは重大なプライバシー問題を解決する可能性がある。GoogleやAppleなどの企業が、より良いサービスを提供するために増え続けるユーザーデータを要求する中、この問題は今後さらに明らかになるだろう。ロスが著書の中で述べているように、「差分プライバシーは、集団に関する有用な情報を学習しながら、個人については何も学習しないという矛盾に対処するものです」。 Apple がこのテクノロジーを大規模に機能させることに成功した場合、私たちのプライバシーに重大な影響を及ぼす可能性があります。

この話に何か付け加えることはありますか？コメントで共有してください。