Metaによると、新しいAIシステムであるFew-Shot Learnerは、COVID-19の誤った情報(Queenie Wong / CNET)など、新しいタイプの有害なコンテンツに迅速に対応できるようになっています。

by REVOLUSYNAPSE
0 comment


Facebookには月間約30億人のアクティブユーザーがいます。

ゲッティイメージズ

メタ、以前は フェイスブック、水曜日に、COVID-19ワクチン接種を思いとどまらせる投稿を含む、新しいタイプの有害なコンテンツにより迅速に適応できる人工知能技術を作成したと述べた。

一般に、AIシステムは例から新しいタスクを学習しますが、大量のデータを収集してラベル付けするプロセスには、通常、数か月かかります。 MetaがFew-ShotLearnerと呼ぶテクノロジーを使用して、新しいAIシステムは少量のトレーニングデータしか必要としないため、数か月ではなく数週間以内に新しいタイプの有害なコンテンツと戦うように調整できます。

たとえば、ソーシャルネットワークには投稿に対するルールがあります 有害なCOVID-19ワクチン ワクチンがDNAを変えるという誤った主張を含む誤った情報。 しかし、ユーザーは自分の発言を「ワクチンまたはDNAチェンジャー?」のような質問として表現することがあります。 または、コードワードを使用して検出を回避しようとします。 メタ氏によると、この新技術は、企業が見逃している可能性のあるコンテンツをキャッチするのに役立つとのことです。

「より迅速に対応すれば、介入とコンテンツのモデレートをよりタイムリーに開始できるようになります」と、メタプロダクトマネージャーのCorneliaCarapceaはインタビューで述べています。 「最終的に、ここでの目標はユーザーを安全に保つことです。」

この新しいAIシステムの作成は、ソーシャルネットワークが以下を含む批判をかわすのに役立つ可能性があります ジョー・バイデン大統領、COVID-19ワクチンの誤報などのプラットフォーム上の誤報と戦うのに十分なことをしていないこと。 元Facebookのプロダクトマネージャーが内部告発者に転向したフランセス・ハウゲンと擁護団体も、特に発展途上国では、ユーザーの安全よりも利益を優先していると非難している。

Metaは、新しいシステムをテストし、従来のAIシステムでは捕捉できない可能性のある不快なコンテンツを特定できたと述べました。 メタ氏によると、フェイスブックとその写真サービスのインスタグラムで新しいシステムを展開した後、ユーザーが見た有害なコンテンツの視聴率は減少したという。 Few-ShotLearnerは100以上の言語で動作します。 同社は含まれている言語をリストしていませんが、Carapceaは、AIシステムをトレーニングするためのサンプルが少ない可能性がある英語以外の言語の有害なコンテンツと戦うために、新しいテクノロジーが「大きな打撃を与える」可能性があると述べました。

Facebookが、人々が社交や仕事をすることができるメタバースの仮想空間の構築に重点を置くにつれて、コンテンツのモデレーションはより複雑になります。 Carapcea氏は、Few-ShotLearnerが最終的にバーチャルリアリティコンテンツに適用される可能性があると考えていると述べました。

「結局のところ、Few-Shot Learnerは、特に整合性のために使用される技術の一部です」と彼女は言いました。 「しかし、例がどんどん少なくなっている機械学習システムを教えることは、研究の最前線で推進されているトピックです。」



Source link

You may also like