大手銀行、AIエージェントが詐欺増加につながる可能性があると警告

AI の真の信者は、AI が世界を破壊するという破滅的で暗いシナリオを懸念していますが、一部の大手金融機関は 警報が鳴る 人工知能に関連するより根拠のある懸念、つまり詐欺について。

火曜日、コンソーシアムは、 世界的な大手銀行 テイクアウト原則ペーパー」では、商取引に関連する AI アシスタントに関する懸念が詳しく述べられており、また、AI 企業がテクノロジーを開発し、取り組み続ける際に遵守してほしい原則についても概説されています。

つまり、銀行は、顧客に代わって行動する権限を与えられた人工知能エージェントが詐欺や詐欺で損失を被り、ひいては加盟店に損害を与えることを恐れているのだ。

「高度に規制された金融機関として、新興テクノロジーの台頭に伴い、当社はリスクを効果的に管理することに注力している」と記事は始まる。 「消費者は、人工知能エージェントが自分たちの利益のために行動するかどうか明確ではありません。」

「彼らは、AIエージェントが間違ったものを買ったり、お金を使いすぎたりするのではないか、さらに悪いことに、詐欺や詐欺でお金を失うのではないかと心配している」と同紙は続けている。 「彼らは自分たちが守られるかどうか、あるいは事態が悪化した場合に誰に相談しなければならないかがわかりません。」

この記事は「Building Trust in Agentic Commerce」と題され、バンク・オブ・アメリカ、キャピタル・ワン、ASB銀行、オーストラリア・コモンウェルス銀行、INGグループ、ナットウエスト・グループによって発行された。

代理店取引は新たな安全上のリスクをもたらし、詐欺、詐欺、紛争の発生率が高くなる可能性があります。どのような製品やサービスをいつ、どのように提供すべきか、あるいは AI エージェントが権限を超えた場合に誰が責任を負うのかについて、消費者、AI エージェント、販売者の間に期待の不一致がある可能性があります。一部のプロバイダーは、消費者カードの詳細を要求して Web サイトに直接入力する、保護の低い支払い方法を優先する、支払い処理基準や支払い方法の規則を遵守しないなど、安全でない行為を行う可能性があります。悪意のある攻撃者は、AI エージェントや販売者への侵害やなりすまし、新しい形式のソーシャル エンジニアリングへの関与など、詐欺や詐欺のための新しい攻撃ベクトルを試みる可能性があります。

同団体はまた、AIショッピングチャットボットの台頭により、AIエージェントの行為によるクレジットカードに関する紛争やチャージバックの増加につながる可能性があるとして、商店や事業主に対する懸念も表明した。

この記事では、銀行がAI業界に求める5つの原則（透明性、安全性、プライバシーとデータ、選択と相互運用性）について概説しています。

たとえば、金融機関は、AI 企業はユーザーのデータとプライバシーに関して、安全性と消費者と販売者の同意を優先する必要があると考えています。銀行はまた、人工知能企業に対し、市場の消費者を制限に縛ることなく消費者の選択を尊重することを望んでいる。

確かに論文の出版日は興味深いタイミングでした。彼は重大な発見が報告されてから24時間以内に釈放された ゼロデイ脆弱性 Meta のエージェント AI アシスタントの内部。同紙はまた、アマゾンが電子商取引の巨人が撤退すると発表してから数時間以内に記事を掲載しなかった。 ブロックスミューズ プラットフォーム上での購入を禁止します。