アメリカ連邦取引委員会、OpenAIをプライバシー保護と消費者保護法違反で調査
複数のメディアはan FTC Civil Investigative Demand (CID)を基にアメリカ連邦取引委員会（以下FTCと言う）は、OpenAIが「消費者保護法に違反し個人の評判やデータを危険にさらしているかどうか」の調査に入った事を伝えています。
既存の消費者保護法がAIにも適用される
FTCは、既存の消費者保護法がAIにも適用されるという警告を発しています。FTCはOpenAIに対し、製品が「偽、誤解を招く、中傷的、または有害」な発言をするというすべての苦情の詳細な説明を提供するよう要求しています。また、FTCはOpenAIが不公正または欺瞞的な行為を行い、消費者に「評判の損害」を与えたかどうかを調査しています。
さらに、FTCはOpenAIに対し、今年3月に公表したセキュリティインシデントに関連する記録を提供するよう求めています。このインシデントでは、システムのバグが一部のユーザーに支払い関連情報や他のユーザーのチャット履歴の一部を見ることを許してしまいました。FTCは、OpenAIのデータセキュリティの実践が消費者保護法に違反しているかどうかを調査しています。
Sam Altman氏はFTCに協力するとtweet
サム・アルトマン氏の2時間前の連続投稿はこちら。
we’re transparent about the limitations of our technology, especially when we fall short. and our capped-profits structure means we aren’t incentivized to make unlimited returns.
— Sam Altman (@sama) July 13, 2023
we built GPT-4 on top of years of safety research and spent 6+ months after we finished initial training making it safer and more aligned before releasing it. we protect user privacy and design our systems to learn about the world, not private individuals.
— Sam Altman (@sama) July 13, 2023
it is very disappointing to see the FTC's request start with a leak and does not help build trust.
— Sam Altman (@sama) July 13, 2023
that said, it’s super important to us that out technology is safe and pro-consumer, and we are confident we follow the law. of course we will work with the FTC.
最後の投稿はこちらですが、社内から漏洩した？
FTC の要求が漏洩から始まっていることは非常に残念であり、信頼の構築には役立っておりません。 とはいえ、テクノロジーが安全で消費者寄りであることは私たちにとって非常に重要であり、法律を遵守していると確信しています。もちろんFTCと協力していきます。
ChatGPTは個人の評判やデータを危険にさらしているかどうか
ご本人に聞いてみるとこの様な返答が返ってきました。
ChatGPT返答：
OpenAIのChatGPTは、大量のテキストデータを学習して人間のような対話を生成するAIモデルです。このモデルは、ユーザーが提供する情報やインターネット上の広範な情報を基にして会話を生成します。しかし、このようなAIモデルが個人の評判やデータを危険にさらす可能性があるという懸念があります。
誤った情報の生成: AIモデルは完全に正確な情報を常に生成するわけではありません。特に、ユーザーが特定の個人や組織についての情報を求めた場合、AIは誤った情報や誤解を招く情報を生成する可能性があります。これは、その個人や組織の評判を傷つける可能性があります。
プライバシーの侵害: AIモデルはユーザーから提供された情報を学習しますが、この情報が適切に管理されていない場合、ユーザーのプライバシーが侵害される可能性があります。例えば、ユーザーが個人的な情報をAIに提供し、その情報が他のユーザーに公開される可能性があります。
データセキュリティの問題: AIモデルがユーザーの情報を保存する場合、その情報が適切に保護されていなければ、データ漏洩のリスクがあります。これは、ユーザーの個人情報が不適切に公開される可能性があります。
これらの理由から、FTCはOpenAIのChatGPTが消費者保護法に違反していないか、個人の評判やデータを危険にさらしていないかを調査しています。
各メディアの温度差
且つてから改善できてないハルシネーション現象に焦点を当てて書いている記事はこちら。最初に紹介した記事も主にハルシネーションの問題を指摘しています。
が、こちらの記事は商品取引法違反に焦点を当てて書いています。
要約するとこの様になります。
「不公平で反競争的な商行為を防止するために存在するFTCは、「風評被害を含む消費者への危害のリスクに関連した」OpenAIの違反の可能性を調査しており、「金銭的救済を求める委員会の行動が公にされるかどうか」の判断を求めている。"言い換えれば、FTCはOpenAIが顧客の欺瞞やプライバシーの侵害に関する規制に違反した可能性があると疑い、罰金を科す可能性がある。
過去にサム・アルトマン氏が脳を保存するためにスタートアップに1万ドルを支払った記事を引き合いに出しています。
Nectomeの目標は「あなたの思考をアーカイブ化する」という事ですが、生きたままの脳を防腐処理するために人を殺す必要があります。この記事の記者は、サム・アルトマン氏や他のシリコンバレーのリーダーたちが、自分たちの脳を保存し、将来的にデジタル化することで永遠の生命を追求するという考え方について、やや皮肉混じりに述べています。これは、一部の人々がテクノロジーを使って人間の寿命を延ばすことに対する強い関心を示している現代のシリコンバレーの文化を反映しています。
記事の最後の部分では、アルトマン氏のTwitterプロフィールの引用を取り上げ、それを彼の現在の行動と関連付けて解釈しています。彼の「怪物と戦う者は、自分が怪物にならないように注意すべきだ」という言葉は、自分自身が目指すものを追求する過程で、その目標が自分自身を変えてしまう可能性についての警告とも取れます。
これは、教師あり学習を通じてChatGPTがネット上の良い物も悪い物も全て飲み込んでしまった状態のいわば怪物の状態からどう調教して行こうか思い悩んでいた時期だったのかもしれません。
この件は、Noteの他の記事にしていますので、参照してみてください。
規制でがんじがらめになっていくOpenAI
アルトマン氏の「怪物と戦う者は、自分が怪物にならないように注意すべきだ」の奮闘は続いている物とおもわれます。ハルシネーションの問題が解決できればきっとOpenAIの開発者たちは一息つけるのでしょう。ですが、既にChatGPTの次のバージョンの開発も進みつつあるので、結果がどうなっても開発は止める事ができないでしょう。
既に始まっている、OpenAIの超知能を開発するためのメンターAIの開発の人員募集については以下の記事をご覧ください。
この記事が気に入ったらサポートをしてみませんか？