AI生成パターンが監視カメラからあなたを隠す—Flockを含む

ビル・スウェアリンゲンは、カンザスシティの自宅でセキュリティミートアップ「SecKC」を共同設立し、過去1年間同じ実験を繰り返してきました。約3100万回のテストの結果、彼はFlockカメラに接続された検出ソフトウェアから隠すパターンを要求に応じて生成できると述べています。Flockは、アメリカ全土で展開されている物議を醸す監視システムです。

彼は金曜日にDef Conで初めて公にその成果を示し、YouTubeチャンネルのDonut Mediaと協力して、2009年製のトヨタ・ヤリスを彼の最新のパターンの一つで覆い、Flockカメラの前を通過させました。

「効果があることを証明しました」とスウェアリンゲンはTechCrunchに語りましたが、車輪が課題だったと述べました。Donut Mediaはデモの動画が数週間以内に公開されるとしています。

このパターンはカメラを盲目にするわけではありません。映像は通常通り記録され、人間が画面を見れば車が見えます。壊れるのはその上のレイヤー、つまり「それは車両だ、それはナンバープレートだ、記録しろ」と決定する物体検出モデルです。

要するに、AI検出器にその数学に対抗するように設計された十分な視覚的ノイズを与えれば、何も記録しません。車は干し草の山の中の針に戻ります。

これが敵対的機械学習であり、コンピュータビジョンはあなたが見るものを見ないために機能します。人間には派手なグラフィックデザインとして認識されるラップが、分類器には全く何もないように見えるのです。

スウェアリンゲンは、自分自身の宿題を評価する強化学習モデルを使ってこれを構築しました。パターンが検出されると、モデルが調整し、再試行します。彼はこれを「モデルに絵を描く方法を教える」と表現しました。現在、彼は毎分新しいパターンを生成しており、カメラベンダーがそれに対抗して訓練できないように、最も強力なものをオフラインで保持しています。

「プライバシーは基本的な権利です」と彼は述べ、パターンを人々が「追跡されることからオプトアウトする方法」と呼びました。彼は、昨年抗議に参加したいと思ったときに、カメラが参加者を記録することを心配してこのアイデアが生まれたと述べました。

機械から隠れるための長い道のり

人々は何年も前から検出システムに対抗するための即興策を講じてきましたが、通常はハードウェアストアの解決策を使用しています。サンフランシスコの活動家たちは、WaymoやCruiseのロボタクシーのボンネットに交通コーンを置いて動きを止めるという、コードを必要としない手法を用いました。

昨年のロサンゼルスの移民襲撃の際、抗議者たちはさらに進んでいくつかのWaymoを焼きました。マスク、フード、つばのある帽子は抗議行動のデフォルトです。敵対的な衣料品ブランドは、顔を混乱させるプリントを販売しており、認識防止メガネも薄い証拠と共に登場しています。

スウェアリンゲンのプロジェクト「noRecognition」を特別なものにしているのは、ターゲットリストです。スウェアリンゲンは広く展開されている特定のスタックに対してテストを行い、Flockが注目を集めています。この会社はキャピトルヒルでの反発が高まっており、内部文書は350,000台のUberおよびLyftのダッシュカメラを回転式ナンバープレートスキャン艦隊に変える計画を提案したことを示しています。

自動リーダーはすでに不当な一致により無実のドライバーを銃口で停車させており、移民や抗議者はICEのAIドラグネットに巻き込まれ続けています。議員たちは、メタのスマートグラスにおける顔認識について並行して圧力をかけており、自動検出技術に対抗するための法的手段がプライバシー愛好者によって検討されています。

スウェアリンゲンのnoRecognitionプロジェクトは、初期商品を資金調達するためのクラウドファンディングキャンペーンを実施しています。現在はTシャツやフーディー、後には車両スキンを予定しています。スウェアリンゲンは、距離で機能するのに十分な解像度と、人々が実際に着用するのに十分なデザインを目指していると述べました。

公共の道路でラップされた車を運転することは独自の法的問題であり、ナンバープレートの隠蔽に関する法律は州によって異なります。パターンはボディワークを覆い、ナンバープレートは覆いません。

「すべての失敗が私のモデルを改善し、パターンはどんどん良くなっていきます」とスウェアリンゲンは述べました。

本コンテンツは、一般的な情報提供のみを目的としたものであり、金融、投資、法律、または税務に関する助言を構成するものではありません。ここに記載されているイベント、報酬、オンラインキャンペーン、またはそれらに関連する情報は、暗号資産の購入、売却、取引、その他いかなる取引の推奨、勧誘、または招待とみなされるべきではありません。暗号資産は価格変動が非常に大きく、損失が発生する可能性があります。WEEXのサービス、プロダクト、および関連イベントの提供状況は、地域によって異なる場合があります。お客様は、ご自身の参加が適用される現地の法令を遵守していることを自ら確認する責任を負うものとします。