“毒入り音楽”ってなんですか？~AIへの訓練不能にする技術~
2024年11月11日
情報セキュリティコラム
お世話になっております。
まえやまです。
「毒入り音楽」というワードは耳にしたことはありますか？
毒入りと言われてもいまいちピンとこない方が多数なのではないでしょうか？
今回はそんな「毒入り音楽」の謎についてお話したいと思います。
私たちの身近な存在となった生成ＡＩ。
これらは様々な情報から自己学習をして利用者へ様々な助言などを
与えてくれますが、その精度は良くも悪くもますます高まっています。
そして多様な利用方法がある中、膨大なデータベースから学習を行うために
著作権で保護された素材を意図せず侵害するリスクが高まってきており、
ミュージシャンや声優などの生計と芸術性の両方を脅かしています💦
以前アメリカで問題視され、ハリウッドで大規模なストライキが起きたニュースを
見た方はそう少なくないと思います。
この課題に対応するため、とある研究チームは
「ＨａｒｍｏｎｙＣｌｏａｋ」というフレームワークを開発✨
これは音楽をＡＩモデルにとって学習不可能にすることで、
クリエイターの知的財産を保護する防衛的な取り組みとなります💪
この技術の特徴的な点は、人間の耳には全く気付かれないような
ノイズを音楽に埋め込むこと。
例えば、ある楽曲は人間には完璧な音質で聞こえますが、
ＡＩにとっては無秩序で学習不可能なデータとして認識されるのです。
その結果、ＡＩモデルが保護された音楽のスタイルを模倣しようとしても
生成される音楽は支離滅裂なものとなり、
オリジナル作品の本質をとらえることができなくなります。🤯
ＨａｒｍｏｎｙＣｌｏａｋが導入する保護ノイズは、
単純な付加的なノイズや隠し信号ではありません。
人間の聴覚閾値以下に慎重に設計され、音楽自体に溶け込むように作られています。
このノイズは音楽によって隠され、人間の耳には検出できませんが、
ＡＩの学習能力を妨げる効果があります。😎
イラストも写真も生成が可能なＡＩ。
高度なシステムでとても便利な反面、
犯罪に利用される可能性について否定ができません。
オリジナルを侵害されない為にも適度な距離で付き合う必要がありますね！
P.N. まえやま
