1
それでも動く名無し＠転載禁止
2023/01/31(火) 20:18:46.55 ID:ja2D1rjq09
AIでクローン音声を生成する最新ツールが4chan民により「エマ・ワトソンの声で『わが闘争』を読み上げさせる」など悪用されまくる事態に - GIGAZINE
https://gigazine.net/news/20230131-ai-voice-elevenlabs-4chan-abuse/
ポーランドに拠点を置くAIスタートアップのElevenLabsは、音声サンプルから「声のクローン」を作成してさまざまな文章を読み上げさせるツールを開発しています。ElevenLabsが最新ツールのベータ版を公開したところ、海外掲示板・4chanのユーザーたちにより「有名人の声で人種差別発言や不謹慎なことを言わせる」といった悪用事例が急増してしまったと報じられています。一例では、「女優のエマ・ワトソン氏の声でナチス指導者アドルフ・ヒトラーの著書『わが闘争』を読み上げさせる」といったものが確認されています。
https://i.imgur.com/D0nkqu9.png
https://gigazine.net/news/20230131-ai-voice-elevenlabs-4chan-abuse/
ポーランドに拠点を置くAIスタートアップのElevenLabsは、音声サンプルから「声のクローン」を作成してさまざまな文章を読み上げさせるツールを開発しています。ElevenLabsが最新ツールのベータ版を公開したところ、海外掲示板・4chanのユーザーたちにより「有名人の声で人種差別発言や不謹慎なことを言わせる」といった悪用事例が急増してしまったと報じられています。一例では、「女優のエマ・ワトソン氏の声でナチス指導者アドルフ・ヒトラーの著書『わが闘争』を読み上げさせる」といったものが確認されています。
https://i.imgur.com/D0nkqu9.png