最近、「AIによる顔の入れ替え」を利用した電信詐欺のニュースが相次いでおり、被害者には社会の各階層が含まれ、顔が広く、社会的影響が悪い。不法分子の多くはAI技術を利用して顔と声を合成して偽装し、特定の人物の身分を偽ってビデオ通話方式で被害者の信頼を得て、巨額の財貨をだまし取っている。このような「顔を変える」術と擬音術は人を防ぎきれず、社会大衆の話題と不安を引き起こしている。

電信詐欺ハイエンド局？お金の袋をお守りいたします

現在、電信ネットワーク詐欺犯罪はすでに発生件数が最も多く、上昇が最も速く、関連面が最も広く、人民大衆が最も強く反映している犯罪タイプとなっている。公安部は2022年5月に5種類の高発電信ネットワーク詐欺事件を公表した。このような詐欺手法については、詐欺防止を認識する際には、誘惑をむさぼること、身分を検証すること、振替を慎重にすることなどをお勧めし、変化に応じないようにします。

我が国の詐欺防止活動の強力な展開に伴い、民衆は電信詐欺の多くに対して初歩的な認識と防犯意識を持っている。しかし、科学技術の急速な発展に伴い、合成技術の応用敷居が低下し、深さ合成製品とサービスが徐々に増加し、不法分子が乗れる機会があり、犯罪手段が百出している。警戒していても、動画や音声などの動的情報コンテンツに対する信頼度は高く、「AIによる顔の切り替え」「AIによる声の切り替え」などの新興技術を利用したハイエンドな詐欺劇に対して、「目に見えて真実ではない」と真偽の見分けがつかない。

ケース1

2020年、不法分子は有名な男優の写真と動画の断片を盗用し、吹き替えを編集して短い動画を制作して中高年の女性を引きつけ、さらに私信、AIの顔を変えて生中継、AIの擬音インタラクションなどの方法で偽スターを通じて彼女たちの信頼と感情をだまし取り、詐欺を実施した。

ケース2

2021年、合肥警察はAI技術を利用して顔の動画を偽造した容疑者グループを逮捕し、容疑者のパソコンから身分証明書の表裏写真、身分証明書を手にした写真、自撮り写真など、Gの市民の顔データを十数個発見した。これらのセット写真は「材料」と呼ばれ、写真を売っている人は「材料商」と呼ばれているが、これらの「材料」はネット上で何度も転売されているが、「材料」の主人は何も知らない。容疑者はAI技術を利用してこれらの「材料」を使って顔の動的動画を偽造し、制作が簡単なため、1つの動画の価格はわずか2 ~ 10元で、「顧客」は何百何千も購入し、利益をむさぼる空間が巨大であることが多い。

ケース3

2022年2月、浙江省の陳さんは自分が「親友」に5万元詐欺されたと通報した。警察の確認によると、系不法分子がAI技術を利用して陳さんの親友がソーシャルプラットフォームで投稿した動画を合成し、陳さんが「親友」とビデオチャットをしているような見せかけを作って信頼をだまし取っていることがわかり、詐欺を実施した。

ケース4

2023年4月、福建省のある会社の法定代表者郭氏は親友の微信（WeChat）動画を受け取り、友人が地方で入札しているため、430万元の保証金が必要で、郭氏の会社の口座を借りて口座を振り込みたいと話した。郭さんは友人への信頼とビデオチャットに基づいて身元を確認し、入金が確認されていない状態で友人と呼ばれる銀行カードにお金を振り込み、後で友人に電話してだまされたことを知った。詐欺師は知能AIによる顔の入れ替えと擬音技術を通じて、親友を装って郭さんに詐欺を加えた。幸いなことに、郭さんはタイムリーに警察に通報し、警察は迅速に支払い停止メカニズムを起動し、銀行の協力の下で330万元以上のブロックに成功し、残りの金額はまだ追徴中だ。

これらの驚くべき事件は被害者に迷惑と経済的損失を与えるだけでなく、ある程度大衆のパニック感情を引き起こしているが、人工知能が詐欺に利用する技術的な可能性と我が国の詐欺防止のインフラ状況から見ると、現在の「AIによる顔替え」詐欺は至るところに蔓延している状態に達しておらず、本質的には電気通信ネットワーク詐欺の「遠隔」「非接触」の特徴から離れていない。

詐欺防止の最も効果的な方法は信じないことであり、相手がどんなに「交換」しても、「聞かない、振替しない」ことである。その上で、本所の弁護士は業界内の専門家の技術分析と関連事件の復盤を結合して、お金の袋を守る方法をいくつか教えてあげます：

1、個人情報のセキュリティ保護

顔、指紋、声紋、虹彩などの個人生物情報や証明書を手にした写真動画を他人やネットワークプラットフォームに容易に提供せず、動図、動画などAI訓練に使用される可能性のある素材を過度に公開したり共有したりしない（特に詐欺の疑いのある電話を受けた場合は溝に入らないように注意し、オーディオの「原料」を手に入れることを避ける）、勝手に記入しない、複数の個人情報を公開しすぎている（ユーザー画像の「正確な囲み」が描かれないように）。

2、身分情報の多重検査

電気通信詐欺は見知らぬ番号を使ってメールや電話をすることが多く、一部は携帯アプリや電気通信事業者を通じて識別したりブロックしたりすることができるが、不法者は着信表示を偽造したり、SNSアカウントを盗用したりする可能性があり、よく知っている連絡先でも電話や動画などで身分を確認する必要がある。「AIによる顔の入れ替え」を防ぐために、ビデオページのテクスチャ特徴が規則的であるかどうか、ビデオ人物の生理的特徴が正常であるかどうか、ビデオ連続動作がスムーズであるかどうかなどを観察することで真偽を識別することができ、また、対面、第三者による確認、事前に秘密検証方式を設定することなどで多重検査を行うことができる。

3、時間を延ばして慎重に振替する

詐欺の最終目的は財物をだまし取ることであり、金銭のやり取りに関わる場合は必ず相手の身元を二度確認し、振り替える際はできるだけ入金時間を2時間以上に設定し、再検査の時間を予約するとともに、銀行振り替えなど追跡と遮断に便利な支払方法を使用する。会社のために振替する時、プロセス検査（例えば支払根拠、審査証明）を通じて、会社の財務制度を厳格に守ることを提案する、私口座振替時に相手が第三者への支払いを要求する場合は、警戒心を高め、受取人の身元と個人情報を確認して総合的に判断しなければならない。

4、不審を発見したら速やかに通報する

詐欺の疑いのある電話や動画を受け取った場合は、録音、録画などの方法で証拠を固定することを提案し、照合を確認しやすくする一方で、後期通報、通報の際に手がかりを提供するのに便利である。疑わしい場合は12321.cn詐欺防止コラムに通報することができ、例えば資金損失が発生した場合は最初に96110に通報することができる。

科学技術に善悪はなく、法律には一線がある

科学技術にはもともと善悪はなく、使い方次第だ。AI技術の合理的な使用はネットコンテンツの生態を豊かにするだけでなく、人々の生活に便利さと多様な体験をもたらすことができ、一度下心の徒に不法に利用されると、それは十分に偽の効果を生むため、専門家であっても技術手段を利用して正確に識別する必要があるかもしれず、一般人にとって詐欺防止の難しさは明らかに増している。

AIによる顔換え詐欺が頻発している背景には技術の乱用があり、技術発展の向上と善の原則に背き、法律と公序良俗の最低ラインに挑戦している。我が国の法律はこのような権利侵害、違法違反及び刑事犯罪の疑いに対する態度が非常に明確である。

どのような電気通信詐欺の方式であれ、その本質は不法分子が様々な技術手段を通じて実施した詐欺であり、電気通信ネットワーク詐欺を直接実施した行為者であれ、詐欺活動に技術支援、資金決済、宣伝普及などの援助を提供した者であれ、詐欺罪の疑いで刑事責任を追及されることができる。

重要な法線リンク（下にスライドして表示）

1.『中華人民共和国反電信ネットワーク詐欺法』

第二条本法でいう電信ネットワーク詐欺とは、不法占有を目的として、電信ネットワーク技術手段を利用して、遠隔、非接触などの方式を通じて、公私財貨を詐欺する行為を指す。

第38条電気通信ネットワーク詐欺活動を組織し、企画し、実施し、参加し、または電気通信ネットワーク詐欺活動に助けを提供し、犯罪を構成した場合、法に基づいて刑事責任を追及する。

前項の行為がまだ犯罪を構成していない場合は、公安機関が10日以上15日以下に拘留する。違法所得を没収し、違法所得の倍以上10倍以下の罰金を科し、違法所得がないか、違法所得が1万元未満の場合、10万元以下の罰金を科す。

2.『中華人民共和国刑法』

第266条公私財物を詐欺し、金額が大きい場合は、3年以下の懲役、拘留または管制に処し、併置または単一処罰金に処す。金額が巨大であるか、その他の重大な情状がある場合は、3年以上10年以下の懲役に処し、罰金を科す。金額が特に巨大であるか、その他の特に深刻な情状がある場合は、10年以上の有期懲役または無期懲役に処し、罰金または財産を没収する。本法に別途規定がある場合は、規定に従う。

3.『最高人民法院、最高人民検察院、公安部の電信ネットワーク詐欺などの刑事事件の取り扱いに関する法律適用のいくつかの問題に関する意見』

第二条第（一）金『詐欺刑事事件の処理に関する最高人民法院、最高人民検察院の具体的な応用法律の若干の問題の解釈』第一条の規定に基づき、電信ネットワーク技術手段を利用して詐欺を実施し、詐欺の公私財物価値が三千元以上、三万元以上、五十万元以上の場合、刑法第266条に規定されている「額が大きい」「額が大きい」「額が特に大きい」とそれぞれ認定しなければならない。

2年以内に何度も電気通信ネットワーク詐欺を実施したが処理されておらず、詐欺額の累計計算が犯罪を構成する場合は、法に基づいて罪を定めて処罰しなければならない。

早急に管理すべき深度合成技術の応用の乱れに直面して、我が国は近年も続々と関連法律法規を公布し、AI詐欺に対して源流管理と総合管理を行っている、例えば：

1.公民肖像権、個人情報権益が法律により保護されていることを明確にする。民法典は、「情報技術を利用した偽造などで他人の肖像権を侵害してはならない」ことを肖像権侵害の典型的な形態として規制している。

2.『ネットワーク音声ビデオ情報サービス管理規定』は「非真実音声ビデオ情報」を顕著な方法で標識しなければならず、深い学習、仮想現実などに基づく新技術の新たな応用を利用して虚偽のニュース情報を作成、発表、伝播することはできないことを要求している。

3.新たに施行された「インターネット情報サービス深度合成管理規定」は我が国初の深度合成サービス管理に対する専門的な部門規則として、深度合成データと技術管理規範を明確にし、深度合成サービス提供者と技術支持者の主体的責任を強化した。

4.生成式人工知能の健全な発展と規範的な応用を促進するため、今年4月11日に国家網信弁公室は「生成式人工知能サービス管理方法（意見聴取稿）」を起草し、社会に公開的に意見を求め、初めて現在爆発している生成式AI産業に対して規範的な政策を発表し、データのコンプライアンス、生成内容の合法性に対して具体的な要求を提出した。

最後に書く

毎回の科学技術の進歩は法律規範分野の大変革を引き起こし、インターネットのビッグデータ時代、深度合成技術は大規模に普及しており、各種ビデオ、生放送、ソフトウェア教育などが次々と現れ、技術の敷居が低く、使用シーンが一般化しているが、娯楽、商業営利、技術研究開発にかかわらず、法律の一線を守らなければならない。

AIユーザーにとって、「AIが顔を変える」「AIが変装する」「ワンクリックで頭を変える」は自分に新鮮な体験を享受させることができるが、一方では個人情報の保護に注意しなければならない。一方で、他人の肖像や作品を勝手に、不当に使用してはならない。そうしないと、他人の肖像権、名誉権、知的財産権などの合法的権益を侵害するために相応の法的責任を負う可能性がある。悪意のある醜化、ポルノの擦れ違い、デマの捏造、実名認証などの違法行為があれば、侮辱罪、誹謗罪、でっち上げ、故意に虚偽情報を伝播する罪、制作、複製、出版、販売、わいせつ物の営利の伝播罪やわいせつ物の伝播罪、コンピュータ情報システムへの不法侵入罪などの犯罪。

AIサービス提供者にとって、法に基づいて自身の義務を履行し、情報セキュリティの主体的責任を実行し、ユーザー登録、アルゴリズムメカニズムのメカニズム審査、科学技術倫理審査、情報発表審査、データセキュリティ、個人情報保護、反電信ネットワーク詐欺、応急処置などの管理制度を確立し、健全にし、サービス技術支持者とユーザーが情報セキュリティの義務を負うために必要なヒントと協力を提供しなければならない。

技術は両刃の剣であるが、技術的中立は価値中立を意味するものではなく、AI技術の応用は法律規制と道徳倫理に拘束されなければならない。技術発展に伴う違法な濫用問題に直面して、すべての参加者は法律法規の要求を遵守し、社会の公徳、公序良俗を尊重し、他人の合法的権益を尊重しなければならない。私たちのお金の袋を保護し、法律のベースラインと技術のレッドラインを守り、協力し、多くの管理を行い、より安全で、健康で秩序あるネットワーク環境を共同で構築します。