露骨な表現から検索者を遠ざけるAI

AIの活用でGoogle検索を安全に

日常において、人は自分や家族の安全を守るための方法を求めてGoogle利用したりもします。自然災害発生時に必要な情報のハイライト表示から、一刻を争うような健康情報の提供まで、Googleは常に新しい機能や改善に取り組み、必要なものをすばやく見つけられるよう支援しています。またAIの進歩によって洪水予報のような新しい技術を活用することができ、それが危険から逃れるための人の支援にも繋がっています。今回はGoogleのAIシステムが、有害な情報や残酷なコンテンツを避けながらも、人々を重要な情報に繋げるためにどのように役立っているかをご紹介します。

必要なときに、信頼できる実用的な情報を見つける

Googleでは、人々が最も重要な局面に立った時、検索を利用することが分かっています。現在、Googleで自殺、性的暴行、薬物乱用、ドメスティックバイオレンスに関する情報を検索すると、最も関連性が高く役立つ結果とともに、全国規模のホットラインの連絡先が表示されます。
しかし、何らかの危機に直面している人々は、あらゆる方法で検索を行いますし、彼らが必要としている情報は必ずしも決まっているわけではありません。しかし、それを正確に認識できなければ、役立つ検索結果を表示するようにシステムをコーディングすることはできません。だからこそ、機械学習を使って言語を理解することはとても重要なのです。
現在、私たちの最新のAIモデルであるMUMを使うことで、より幅広く個人個人の切迫した検索を、自動的により正確に検出することができます。MUMは、皆様の検索の背後にある意図をよりよく理解し、直面している状況を解釈することで、より確実に信頼できる実用的な情報を適切なタイミングで表示できるようになります。今後数週間のうちに、MUMを使ったこの部分のさらなる改善が開始予定です。
　

予期せぬ衝撃的なコンテンツから身を守る

Google検索を安全に利用してもらうということは、予期せぬ衝撃的な検索結果を避けるということも意味します。しかし、コンテンツ制作者は不審で露骨なコンテンツにもかかわらず、あえて無害で温和な用語を用いることもあるため、有害なコンテンツを避けることは容易ではありません。また、最も広く一般的に普及しているコンテンツが、決して探し求めている情報とは限りません。こういった場合、検索者が露骨なコンテンツを求めていなくても、検索結果にそういった表示がされてしまう可能性だってあります。
Googleはこの問題に取り組む方法の一つとして、露骨な検索結果をフィルタリングするオプションをユーザーに提供するセーフサーチモードを採用しています。この設定は、18歳未満のGoogleアカウントではデフォルトでオンになっています。また、ユーザーがたとえセーフサーチをオフにした場合であっても、Googleのシステムとしては、露骨な検索結果を求めていないであろう検索については、不用意に露骨な検索結果が出ないよう努めています。実際、Googleの安全性に関わる検索アルゴリズムは、Web、画像、動画の各モードで、毎日世界中で何億件もの検索を改善しています。
一方でまだ改善の余地はあり、GoogleはBERTのような高度なAI技術を使用して、ユーザーが探しているものをより深く理解するよう努めています。BERTによって、検索者が本当に露骨なコンテンツを求めているかどうかの理解を深めることで、検索者が衝撃を受けてしまうような検索結果に遭遇する確率を大幅に減らすようになっています。
これは、Googleが長年取り組んできた複雑な課題ですが、このBERTの改善により、昨年だけでも予期せぬ衝撃的な結果を30％減らすことができました。特に女性と、有色人種の女性に差別的な影響を与えかねない、民族、性的指向、性別に関連する検索に関して、露骨なコンテンツの削減に効果を発揮しています。
　

保護機能を世界的に拡大する

MUMは、学習した75の言語間で知識を伝達共有することができるため、世界中の安全保護の規模をより効率的に拡大することができます。あるタスク(クエリの性質の分類など)を実行するためにMUMモデルを発揮させると、対応する全ての言語でそれを実行するように学習します。
例えばGoogleはAIを使うことで、検索結果に表示されてしまう不要な――場合によっては危険なスパムページを減らすことに寄与しています。今後数ヶ月のうちに、MUMを使ってスパム対策の質を向上させ、学習データがまだほぼない言語においても展開していく予定です。また、信頼できる現地のパートナーと協力しながらさらに多くの国で実用的な情報を表示し、世界中の人々が瀕する危機的なクエリをより良く検出できるようにしていきます。
その他のGoogle検索機能の改善と同様、これらの変更もより適切で役に立つ検索結果を提供できるよう、世界中の検索評価者の意見を取り入れながら厳正な評価を続けていきます。検索者が探している情報が何であれ、Googleは安全にそれを見つけることができるよう、全力でサポートしていきます。

引用）The Keywordより和訳