CanvaのAIツールの安全策のポイントを整理する
CanvaはAIツールの利用条件だけでなく、AIツールにおける安全策の取り組みも公開しています。
そこで今回は、その取り組みのポイントについて整理していきたいと思います。
https://www.canva.com/policies/ai-safety/
AI Safety at Canvaのポイントについて
まずCanvaでは、Text to ImageやMagic Write、Magic Edit、Translateなどの機能でGenerativeAiを用いてコンテンツ生成を行っており、それらにおいては「AI Product Terms」および「Terms of Use」が適用されます。
安全のための取り組み
Canvaでは信頼できる安全な環境を構築するために、以下のような安全のための対策を行なっています。
入力をレビューし、不適切なコンテンツを生成する可能性があるものを特定、防止する
出力の結果が望ましくない、または不適切であると判断された場合、生成されたコンテンツを自動的にモデレートする
不公正なバイアスや誤った表現を最小限に抑えるための手段を講じる
これらを見ると、一定の偏りを含む不適切なコンテンツを出力しないことに特に注力しているようにみてとることができます。
プラットフォームを安全に保つための支援
Canvaでは、以下のようなコンテンツの生成を防ぐために「AI Product Terms」に従うようコミュニティの支援を行っているとのことです。
医療関連の情報・アドバイス
自己自傷やメンタルヘルスのトピック
アダルトコンテンツ
政治的なトピック・コンテンツ
不適切なコンテンツ等の報告について
もしCanvaの利用において不適切なコンテンツや予期しないことがあった場合、プロンプトが誤ってフラグ付けされた場合などには以下の方法で報告することができるようになっています。
Text to Image
アプリ内の「報告ボタン」を使用して報告
Magic Write、Magic Edit、Translate、その他のAIツール
以下フォームから報告
https://www.canva.com/en_au/help/report-content/
おわりに
今回はCanvaのAIツールに関する安全のための取り組みについてポイントを整理してみました。
どんどん色々なツールが出てきているからこそ自分が使うツールがどのような安全のための取り組みを行っているのかしっかりチェックしておきましょう。
この記事が気に入ったらサポートをしてみませんか?