OpenAIはAGI開発に伴う潜在的なリスクに対処するためレッドチーミングへの採用と、AI Preparedness Challengeへの懸賞を開始します。

Preparednessチームへの募集について

OpenAIはその新しいPreparednessチーム（リスク対策準備チーム）に参加する興味のある個人を募集しています。特に、技術的な背景が異なる優れた才能を求めており、その目的はAIモデルの境界を拡大することです。彼らはこのチームを通じて、技術者がAIの進歩に伴うリスクを理解し、対処する方法を探ることを期待しています。これは、AI技術の安全と効果的な利用を促進し、OpenAIのミッションをさらに前進させる素晴らしい機会である可能性があります。

募集要項はこちらです↓

AI Preparedness Challenge懸賞について

OpenAIはAI Preparedness Challenge（AIリスク対策チャレンジ）への投稿に懸賞を賭けています。上位 10 件の提出に対して 25,000 ドルの API クレジットなどのインセンティブが与えられます。

このチャレンジは、潜在的なリスクの特定とカタストロフィックな悪用の防止に向けた新しいアイディアを募集し、その優れたアイディアや提案を広く共有することを目的としています。また、このチャレンジの上位候補者の中からPreparednessチームの新しいメンバーを探しています。これは、AIの安全と利益を確保し、同時にOpenAIの先端的なAIモデルの開発を支援するための貴重な機会を提供します。

AI Preparedness Challenge懸賞はただのコンテストではない

このチャレンジは、未来のAIリスクを予測し対策する革新的なプラットフォームであり、上位候補者の中からPreparednessチームの新しいメンバーを探しています。これは、AIの安全と利益を確保し、同時にOpenAIの先端的なAIモデルの開発を支援するための貴重な機会を提供します。

このチャレンジはただのコンテストでなく、実際のチームメンバーを見つけるための独創的な方法でもあります。これにより、参加者は実際の問題解決とOpenAIのミッションに直接貢献する機会を得ることができます。非常にエキサイティングな取り組みです。

応募ページはこちら↓

脱獄癖のある人募集中 ！by サム・アルトマン

サム・アルトマンはこの募集についてユニークな補足をしています。

サム・アルトマンがいう、「悪い人々がどのように考えるか」ですが、「脱獄」という方法でAIから犯罪の方法やテロの方法などを無理やり聞き出す手法があります。いわばシステムのセキュリティを侵害し、アクセスを得るハッカーに準えると、ハッカーをホワイトハッカーとしてOpenAIで囲い込む様な作戦ですね。

AIの悪用に関する他の例は、以下のようなものがあります。

1. バイアスの導入: AIモデルに意図的にバイアスを導入し、特定のグループや意見を差別または優遇する。

2. ディープフェイクの作成: AIを使ってリアルな偽のビデオや画像を作成し、人々を欺く。

3. 不正な情報拡散: AIを使って偽情報を自動的に拡散し、公衆の意見を操作する。

4. 自動化された攻撃: AIを使ってセキュリティシステムを自動的に分析し、脆弱性を見つけて攻撃する。

これらは悪意あるアクターがAIを悪用する可能性のある一般的な方法です。
それ以外のAIの悪用方法について考えついた強者は、ぜひこのチャレンジに応募して、OpenAIのレッドチーム入りを果たしましょう。

AI安全基金設立と新エグゼクティブディレクター就任については、下記のNoteに詳しくまとめていますので合わせてご覧ください↓