クリエイター
動画クリエイターが、毎回すべてのセリフを自分で録音せずに、エピソードを通じて一貫したナレーション音声を使いたいと考えています。
クリエイター自身の声か、利用許諾が明確な声を使用し、視聴者に誤解を与えるおそれがある場合は合成ナレーションであることを明示しましょう。
信頼と安全
AI音声クローンは違法？許される範囲を知る
AI音声クローンはどんな場合でも違法なのでしょうか？いいえ。法的な判断は、同意、なりすまし、権利の帰属、商用利用、そして利用者と聞き手がいる地域の法律によって異なります。
まずは背景を理解する
以下の関連記事では、責任ある音声利用に関わる技術、利用方法、実践的な安全対策を解説しています。
AI音声クローンとは実際に何か
AI音声クローンは、元となる話者に似た合成音声を作り出します。技術そのものは中立であり、同意、利用の明示、使用目的によって、そのプロジェクトが責任あるものかどうかが決まります。
出版社
オーディオブックの制作チームが、元のナレーターによって範囲を定めたデジタル音声の利用許諾が承認された後に、内容を修正する必要があります。
新しい章を生成する前に、利用許諾、利用範囲、利用期間、承認手続きを文書に残しましょう。
ゲームスタジオ
スタジオが、テストと制作の間、キャラクターのセリフの声に一貫性を持たせたいと考えています。
本人の許可なく特定できる人物の声をコピーするのではなく、出演者が承認したモデルや架空のキャラクターの声を使用してください。
研究者
研究チームが、ボランティアの録音と管理されたデモを用いて音声インターフェースを研究します。
十分な説明に基づく同意を得て、データセットを必要な範囲に限定し、録音を保護してください。また、生成した音声を本人の実際の発言として提示しないでください。
責任ある音声制作の手順
慎重な制作プロセスでは、技術的に可能なことと、許可されていることを区別します。これらの確認は、一見無害なデモが人を欺いたり害を及ぼしたりする事態を防ぐのに役立ちます。
-
1
話者を確認する
その声が自分自身、同意した参加者、利用許諾を得た出演者、架空の人物のいずれのものかを確認します。判断できない場合は作業を止めてください。
-
2
用途を明確にする
音声をどこで使用するか、誰が聞く可能性があるか、商用利用かどうか、出力が本物の録音と誤認される可能性があるかを書き出します。
-
3
明示し、管理する
聞き手が混同するおそれのある場合は合成音声であることを明示し、モデルへのアクセスを制限してください。同意の内容が変わった場合は、プロジェクトを削除または一時停止します。
AI音声クローンに関する3つの誤解
同じツールでも、正当な制作を支援することもあれば、深刻なリスクを生むこともあります。違いを生むのはAI音声クローンの使用自体ではなく、どのような許可を得て、どのように提示するかです。
| 誤解 | より正確な説明 | |
|---|---|---|
| 許可 | 声のサンプルが公開されていれば、誰でもコピーしてよい。 | 公開されていることは、その声をクローン化、公開、収益化する許可があることを意味しません。 |
| 開示 | 免責事項を付ければ、人を欺く録音も常に許容される。 | 合成音声であることの明示は役立ちますが、同意に代わるものではなく、詐欺、嫌がらせ、なりすましを正当化するものでもありません。 |
| 所有権 | ファイルを生成した人が、関連するすべての権利を自動的に保有するわけではありません。 | 権利には、話者、実演者、録音、台本、ブランド、契約条件に関するものが含まれます。 |
| 商用利用 | 非商用利用なら常に安全とは限りません。 | 非商用のプロジェクトでも、評判を傷つけたり、プライバシーを侵害したり、聞き手に誤解を与えたりする可能性があります。 |
| なりすまし | 重大なリスクが生じるのは、動画でのなりすましだけではありません。 | 本物らしい音声メッセージは、それだけで支払い、信頼、本人確認、社会的評価に影響を及ぼす可能性があります。 |
| 法域 | ある国の規則が、どこでも当てはまるわけではありません。 | 音声、プライバシー、肖像・パブリシティ、消費者保護、著作権、詐欺に関する規則は、地域や用途によって異なります。 |
出所が曖昧な音声から、説明責任を果たせる音声へ
コンプライアンスはファイルだけで判断できません。同意と利用状況も重要です。
利用状況が不明確記録と開示のある利用AI音声クローンを使うべきでない場合
技術的には生成できても、音声モデルの使用にはリスクが高すぎる状況があります。
1
話者の同意がない場合
収集した音声クリップ、公開投稿、個人的な録音から、明確な許可なく特定可能な人物の声をクローン化しないでください。
代わりにできること
自分の声、利用許諾を得た実演者の声、または架空の声として意図的に作られた音声を使ってください。
2
人を欺くメッセージ
実在の人物が話したと聞き手に信じさせることを目的とした通話、アナウンス、推薦コメント、緊急時の指示を生成しないでください。
代わりにすべきこと
正当なデモンストレーションでは、AIで生成した音声であることを明示し、合成音声または使用許可を得た音声を使用してください。
3
重大な判断
本人確認、支払いの承認、法的通知の伝達、または確認済みの対人連絡手段の代替に、生成音声を使用しないでください。
代わりにすべきこと
確立された連絡方法を通じて、別途確認を取ってください。
4
同意が変更された場合
話者が許可を撤回した後や、当初の合意がそのプロジェクトに適用されなくなった後は、音声モデルの使用を続けないでください。
代わりにすべきこと
公開を一時停止し、記録を保全し、合意内容を確認する間、影響を受ける生成物を削除してください。
責任あるプロジェクトは、使用許可を得た音声、明確な目的、誠実な提示から始まります。誰が音声の使用を承認し、音声がどこで使われるかを説明できない場合は、生成前に立ち止まってください。
許可を得て、用途を明確にしたうえでAI音声クローンを使用する
- 自分が所有する音声、または使用許諾を得た音声を使用してください。
- 同意と使用範囲を書面に残してください。
- 誤解を招くおそれがある場合は、合成音声であることを明示してください。
AI音声クローンの合法性に関するよくある質問
必ずしも違法ではありません。話者から適切な許可を得ており、適用されるプライバシー、肖像・声に関する権利、消費者保護、著作権、契約上の規則を守っていれば、AI音声クローンは合法となり得ます。一方、なりすまし、詐欺、嫌がらせ、または無許可の商業利用に使うと、違法になったり、法的リスクが生じたりする可能性があります。
法域、本人の権利、元の録音、生成した音声の用途によっては違法となる可能性があります。音声クローンに関する特定の法律が適用されない場合でも、プライバシー、詐欺、不公正な取引、契約に関する規則により、責任が生じることがあります。
冗談やパロディだからといって、あらゆる法的・社会的責任を免れるわけではありません。文脈、聞き手の誤認、商業的影響、現地の法律、本人に損害を与えるか、本人が支持しているかのように偽って見せるかなどが問題になり得ます。生成音声を本人の実際の発言として提示しないでください。
通常、元となる自分の声の録音は自分で管理できますが、プラットフォームの利用規約、台本、クライアントの権利、生成物の提示方法など、ほかにも考慮すべき点があります。自分が許可した内容を記録し、自分の音声クローンを使って他人になりすまさないでください。
自分自身の声、または実演者から使用許諾を得た声を使用し、許可された用途と使用期間を明確にしてください。モデルと録音データを保護し、聞き手が混同する可能性がある場合は合成音声であることを明示してください。特定のプロジェクトに関する法的助言が必要な場合は、該当する法域の有資格の専門家に相談してください。