主にIT業界周りの話で最近ちらほら聞くTrust & Safety（トラスト＆セーフティ）とはなにか？を私なりにまとめてみました。

Trust & Safetyとはなにか？

「Trust & Safetyとはなにか？」を説明するのはとても難しいです。
なぜならTrust & Safetyは、決まった意味や定義はなく、それぞれの会社やサービスによって言葉の意味が変わるからです。

とはいえ、言語化しないとわかりづらいので、私なりに言語化すると以下のようになります（とあるサービスを運営していることを想定した上で）。

世の中から信頼されるサービスを目指すために、サービスを利用するユーザとそれに関連する人々の安心・安全を守るための取り組み

これを目的・目標・手段に分けてみます。

目的：世の中から信頼されるサービスを目指す
目標：サービスを利用するユーザとそれに関連する人々の安心・安全を守る
手段：安心・安全を守るための取り組み

場合によっては、サービスの信頼性を上げるよりも、人々の安心・安全を守ることが目的になるケースもあるかもしれません。
そのくらいTrust & Safetyにおいて、人々の安心・安全を守ることが大事なのです。

ちなみに、ツーサイドのプラットフォーム戦略を行っている有名サービス（例えばAirbnb）の多くが何かしらの形でTrust & Safetyに関する取り組みを行っています。

サービスを利用するユーザとそれに関連する人々の安心・安全を守る

「サービスを利用するユーザの安心・安全を守る」必要性は理解できると思います。
合わせて「それに関連する人々の安心・安全を守る」必要性もあります。

「それに関連する人々」とは、この記事が公開されているnoteのサービスで例えると、「記事の作成者Aさんが記事内で話題に取り上げたBさん」です。
例えば、Aさんが作成した記事にBさんの個人情報や誹謗中傷が書かれていた場合、Bさんがnoteのユーザでなくても、サービス運営として何かしらの対処をしてBさんの安心・安全を守る必要があります。

これはプラットフォーム全体の安全性を守る上で大事ですし、記事がきっかけで記事を作成したAさんがさらなる問題に巻き込まれない（サービスを利用するユーザの安心・安全を守る）ためにも、何かしらの対処する必要があります。

このように、サービスを利用するユーザとそれに関連する人々を合わせた広い視点で安心・安全を考え、守る必要があります。

安心・安全を守るための取り組み

安心・安全を守るための取り組みとは、具体的にどういったことをやるのでしょうか。

例えば、去年 アメリカでの麻疹（はしか）再流行時に、反ワクチン情報がSNSで拡散された問題がありました。
それに対しTwitterは、ワクチンに関連するキーワード検索結果に、厚生労働省の予防接種情報を参照する案内を出すようにしました。

Twitter上でつぶやかれているワクチンに関する情報を信用するのではなく、行政機関の情報を参照するようにすすめているわけです。

これはまさしく「サービスを利用するユーザとそれに関連する人々の安心・安全を守るための取り組み」です。
親（サービスを利用するユーザ）がTwitterで反ワクチンに関するツイートを見て、子ども（関連する人々）にワクチンを接種させないリスク（安心・安全）から守る取り組みです。

ちなみに、Twitterは数年前からTrust and Safety Councilを立ち上げ、様々な問題に現在も取り組んでいます。

しかし、Twitterとは違いユーザが発言しないタイプのサービスであれば、こういった取り組みの関連性は薄いです。
ただ、そういったサービスでも別も形で安心・安全を脅かすリスクは存在し、それらから「サービスを利用するユーザとそれに関連する人々の安心・安全を守るための取り組み」は必要です。

つまり、具体的な取り組みは、それぞれの会社やサービスの規模やフェーズ、スタンスによって異なるのです。

「人」と「技術」で取り組む

安心・安全を守るための取り組みは、「人」と「技術」が連携させて行うことが大事です。

Trust & Safetyチームが存在するGoogleでは、表現の自由を尊重しながら、どのようなコンテンツを許容するかを決める業務における正確さと大規模なオペレーションを可能にするため、「人」と「技術」が連携し業務にあたっているそうです。
問題のあるコンテンツを機械（技術）により自動検出し、検出されたコンテンツを専門チーム（人）がレビューし、対処しているそうです。

サービスが大きくなるほど、「人」のみで問題を検出することが難しくなります。
そのため、「技術」を利用したアプローチも必要なのです。
ただ、「技術」のみのアプローチでは万能ではないため、「人」の判断も入れつつ、「多様性」と「安心・安全性」を担保しているわけです。

多様性とTrust & Safety

Trust & Safetyと一緒によく語られるのが多様性です。
多くの人が利用するサービスには、人の数だけ多様な利用方法・行動・考え方が存在します。
これらの多様性を尊重しながら、安心・安全も守りつつ、ユーザへ価値を継続的に届けることが、今も昔もこれからも大事なことです。

これをふまえ、Trust & Safetyを改めて言語化すると以下のようになります。

世の中から信頼されるサービスを目指すために、サービスを利用するユーザとそれに関連する人々の安心・安全を守りつつ、多様性の尊重やサービスの価値・質を継続的に担保するための取り組み

このように複数の制約（トレードオフ）が存在する中で、それらを意識し、うまくコントロールすることが、Trust & Safetyのやりがいだと私は思っています。

おわりに

「Trust & Safetyとはなにか？」を言語化し、それはどんなことをどのように行うのかを紹介しました。

私自身も何かしらの形でTrust & Safetyの取り組みに貢献したいと思っており、今後はTrust & Safetyの具体的な取り組みの事例などを中心に記事を書いていく予定です。

ぜひ参考事例などがあれば教えていただけると嬉しいですし、この記事に関する感想や意見・フィードバックもいただけるとさらに嬉しいです。