声だけでは、もう人間か分からない──決済のBlockが“文字を使わずに学んだ”音声AI「Dessa」を発表。中小企業が決めておきたい3つ

日本でもお店のカード決済で見かける「Square」や、米国の送金アプリ「Cash App」を手がける米Block（ブロック）。ジャック・ドーシー氏が率いるこの会社の研究所が、米国時間10月23日、音声AI 「Dessa（デッサ）」 を発表しました（Block）。

公開されたデモの会話を聞いた人からは、「これほど人間らしく聞こえる人工のものは聞いたことがない」と驚きの声が上がりました。一方で、「詐欺電話がパンデミック級になる」と警戒する声も同時に広がっています（CoinDesk）。

Dessaはまだ一般の人は使えません。それでも、「電話の声だけでは、相手が人間かAIか分からない」 時代が近づいていることを、決済の大手が示した形です。何が新しいのか、そして中小企業が今のうちに決めておきたいことを整理します。

何が発表されたのか

Blockの説明では、Dessaは次のようなAIです。

声のまま聞いて、声のまま返す：途中で文字に置き換えずに、音声を直接処理する
人間の会話の音声だけで学んだ：文字のデータも、既存のAIも使わず、ゼロから学習した
聞きながら話せる：相手の話を聞きながら同時に話せる「全二重（フルデュプレックス）」方式。相づちや割り込みのタイミングも、実際の会話から覚えた
感情を聞き取り、表す：笑い・ため息・皮肉・感情を聞き取り、自分の声でも表現できる
手元のパソコンで動く：学習はNVIDIAの大型AIサーバー1台で行い、動かすのは「MacBook Pro（M4 Max）以上」で可能

ただし、一般の人はまだ使えません。先に試せるのは、申し込んだ少数の「AI安全性の研究者」に限られます。一般向けには順番待ちの受付をしているのみで、公開時期や料金、AIの中身（重み）を公開するかどうかは発表されていません。モデルの大きさや性能を比べる数字、対応する言語も示されていません。

何が新しいのか──「文字を通さない」声のAI

今の音声AIの多くは、「聞いた声を文字にする → AIが文字で考える → 答えの文字を声にする」 という順番で動いています。Blockは、この「文字を通す」やり方では、口調や感情など、文字にできない情報がごっそり捨てられてしまうと主張しています（TechCrunch）。

そこでDessaは、最初から最後まで「声」だけで学び、「声」のまま考えて答える作りにしました。研究を率いるRagavan Thurairatnam氏は、これを「音声にとってのGPT-3の瞬間」と表現しています（Unite.AI）。

Blockは開発の理由に「好奇心」「人間とAIのよりよい理解」と並んで 「安全性」 を挙げています。いわく、今のAIは、私たちの声に込められた感情を「ほとんど聞き取れていない」。相手がどう感じているかを聞き取れないのは危険になりうる、という考え方です（Block）。声から苦しさや困りごとを聞き分けられるようになる可能性もある、としています（CoinDesk）。

ただし、冷静に見ておきたい点もあります。

数字による裏付けがない：示されたのはBlockが選んだデモの録音だけで、第三者による評価はまだありません。「ノートパソコンで動く」も、外部ではまだ確かめられていません
感情を込めて話す音声AIや、聞きながら話せる音声AIは、以前からある：感情をくみ取るとうたう米Hume AIの「EVI」（2024年）や、聞きながら話せるOpenAIの「GPT-Live」（2026年7月）などがすでに登場しています。海外メディアのThe Decoderは「感情的に聞こえることは、感情や知性があることと同じではない」と注意を促しています（The Decoder）
噛み合わない場面もある：当てっこゲームのデモでは、当てたと言われた後もAIが推測を続ける場面がありました（Gizmodo）

作ったのは、7年前に“偽の声”を作り、公開を見送った会社の元メンバー

Dessaという名前には、背景があります。

Blockの研究所は、2020年にSquare（現Block）が買収したカナダ・トロントのAI企業「Dessa」の元メンバーが中心になって立ち上げたものです（CoinDesk、Block）。

この旧Dessaは2019年、米国の人気ポッドキャスト司会者ジョー・ローガン氏の声を、AIで本物そっくりに再現して話題になりました。そのとき同社は、詐欺電話や嫌がらせ、政治家へのなりすまし といった悪用のおそれを挙げ、その時点ではモデルやデータを公開しませんでした（Vice）。「数年以内に、数秒の音声があれば誰の声でも複製できるようになる」とも警告しています（The Register）。

当時この“偽の声”を作った技術者として名前が挙がった3人のうち2人は、今回のDessaの研究チームにも名を連ねています。声のAIの危うさを早くから知るメンバーが、7年後に「人間らしく話すAI」を作り、まずは安全性の研究者に先に試してもらう──という流れです。Blockは「音だけで話すことを覚えたモデルは未知の領域。外部の目で見てほしい」と説明しています（Block）。

驚きと同時に、「詐欺電話が増える」という警戒

反応は大きく割れています（CoinDesk）。

驚き：「これほど人間らしく聞こえる人工のものは聞いたことがない」「まさにSF」
警戒：映画監督のジャスティン・ベイトマン氏は、AIの声が人間そっくりである必要があるのかと疑問を投げかけ、「人をだまして警戒を解かせるためでしょう」とX（旧Twitter）に投稿。ジャーナリストのシブ・アルール氏は「詐欺電話がパンデミック級になる」と書きました

CoinDesk自身も、この技術は 電話詐欺を見抜きにくくする可能性がある と指摘しています。一方で、Blockの公式ページには、声の複製（クローン）を防ぐ仕組みや、AIが作った声だと分かる印（電子透かし）といった具体的な対策の説明はありません。今のところの歯止めは「使える人を研究者に限っていること」です。

なお、Dessaが特定の人の声をまねできるのかどうかは、発表されていません。

声でだます詐欺は、AIがなくてもすでに企業を狙っている

「AIの声が人間そっくりになったら考えよう」では、実は遅いのです。

警察庁によると、2025年の1年間で、銀行などをかたる電話（ボイスフィッシング）による法人口座の不正送金は143件、総額約44億8千万円 にのぼりました（共同通信／熊本日日新聞）。銀行を名乗る電話や自動音声で「ネットバンキングの更新手続きがまだです」などと伝え、偽のサイトに誘導してログイン情報を盗む手口です。報道では、AIの声が使われたとはされていません。AIがなくても、電話の声をきっかけに、これだけの被害が出ている ということです。

海外では、AIで作った声のなりすましも現実の被害になっています。イタリアの金融大手傘下のプライベートバンクで、AIによる声の複製となりすましにより、経営幹部が送金を承認し、合計9,500万ユーロ（約168億円）が送金された ことが、2026年9月に明らかになりました（ロイター報道を紹介したTechTargetジャパン）。

ここに「人間と聞き分けにくい声のAI」が加われば、だます側の手口はさらに巧妙になると考えておくべきでしょう。

中小企業が決めておきたい3つ

① 「声」を本人確認に使わない

社長や取引先、銀行を名乗る電話で、お金を動かす・パスワードを教える・振込先を変える ──この3つを、電話（やボイスメッセージ）だけで完結させないルールを決めましょう。

電話を受けたら一度切り、あらかじめ登録してある番号に、こちらからかけ直す
一定額以上の振込や振込先の変更は、2人で確認して承認する
「社長からの急ぎの指示」も例外にしない

海外の専門家も、お金や認証情報に関わるやり取りは、声や映像の1回のやり取りだけに頼らず、別の経路で確かめる こと、それを経営幹部も例外なく守ることを勧めています（TechTargetジャパン）。

② 「気をつけて」ではなく、一度“練習”する

同じ記事で、専門家は「従業員に『警戒してください』と伝えるだけでは、あまり役に立ちません」と述べています。「社長の声で、今日中の振込を頼まれた」 という場面を想定して、経理担当と一度やり取りを練習してみてください。「一度切って、かけ直す」が実際に口から出るかどうかが大事です。

③ 電話対応にAIを使う側に回るなら、「AIです」と名乗る

声のAIは、だます側だけの道具ではありません。Squareでもすでに注文の受け付けに音声AIが使われており（TechCrunch）、お店の電話予約や問い合わせにAIが出る日は近づいています。

ただ、AIの声が人間らしくなるほど、お客さまが「人と話している」と思い込みやすくなります。自社で使うなら、最初に「AIがご案内します」と名乗る、声（感情）のデータを録音・分析するなら、その扱いをお客さまに説明できるようにしておく ──この2つを先に決めておくと、信頼を損ないません。

まとめ

Dessaはまだ研究段階で、誰もが使えるわけではありません。性能もBlockの説明とデモが中心です。それでも、「声を聞けば人間かどうか分かる」という前提が崩れつつあることは、はっきりしてきました。

守るべきは「声」ではなく「手順」です。電話の声だけでお金や大事な情報を動かさない──このルールを、AIが本当に普及する前に、会社の決まりとして書いておきましょう。

参考

本記事は複数の公開情報をもとに作成しています。Dessaの性能や仕組みは開発元の説明とデモに基づくもので、提供の条件や時期は今後変わる可能性があります。