FC2ブログ

空港自動ゲートの危機;米国防高等研究計画局が恐れるAIへの攻撃

先日、雑誌の記事で人工知能への攻撃について書いたらボツになったので残念と思っていたけど、DARPA(米国防高等研究計画局)のカンファレンスで最もホットな話題となっていた。

日本も空港の顔認証システムが始まったところなので、開発者は知っていると思うけど我が国の政府がどこまで認識しているかは不明なので心配です。

人工知能への攻撃がかなり多岐に渡っていて、まあまあ驚きましたね。
人工知能がオープンソースだと、すぐにアルゴリズムが分かるので、認識を騙すAI攻撃ツールも官単位作れてしまいます。

下記は「顔認証攻撃眼鏡」です。

顔認証システムで写真を撮るときに、こういうサイケな眼鏡を乗せると上の写真の人が下の人に見えちゃうらしいです。
カーネギーメロン大学のAI攻撃システム カーネギーメロン大学より

Dは理解できるけど、bとcはもはや性別すら認識できていない。

こんな人間の目なら簡単に分かってしまうことが、AIには完全な目くらましとなって認識機能が著しく落ちてしまうということです。

こういうAI攻撃ツールの開発に力を入れているのは、もちろん人民解放軍。

これで、空港の顔認証ゲートとか、大丈夫なんですかね。


スポンサーサイト



コメント

-

管理人のみ閲覧できます
このコメントは管理人のみ閲覧できます
非公開コメント

fukadamoe

深田萌絵(41歳)本名 浅田麻衣子
IT企業経営の傍ら、ITビジネスアナリストとして雑誌へ寄稿。

チップソリューション、自動車向けLidar代替ソリューション、3D認識システム、リアルタイムAIソリューション提供。
深田萌絵取材・講演依頼→moe.fukadaあっとまーくyahoo.com
開発・技術相談→infoあっとまーくrevatron.com


美術短大現代絵画科準学士、早稲田大学u政治経済学部国際政治経済学科卒。

TOEIC890、HSK5級、証券外務員一級、内部監査員、陸上特殊無線技士2級、航空特殊無線技士、マイクロソルダリング講習受講(資格未取得)。