このA.I. オンラインでコメントを読む方法を変える可能性

インターネットのような問題をどうやって解決しますか? 率直に言って、これは四半世紀前でさえほとんど意味がなかった質問です。 インターネットは、情報と民主的価値観の両方を地球の隅々まで広める能力を備えており、 だった 答え。

インターネットに治療法を求めることは、がんの治療法を求めるようなものです。 2020 年現在、状況はもう少し濁っています。 はい、インターネットはあらゆる種類のことに驚くほど優れています。 しかし、それは問題も引き起こします。 フェイクニュースの蔓延 そうですね、これまでの YouTube のコメント セクションにあるデジタル汚泥へ。 別の言い方をすれば、インターネットにはあらゆる種類の有害なものが存在する可能性があります。 どうやってきれいにすればよいでしょうか？

ここには単純な答えはありません。 アルゴリズムによる検閲か、それとも人間による検閲が解決策なのでしょうか? 物議を醸しているトピックに関するすべてのコメントセクションを閉じるべきでしょうか? 私有のプラットフォームは本当に全員に意見を提供する義務があると感じる必要があるのでしょうか? 公益のために非主流の意見をブロックすることは、すべての人に発言権を与えるというインターネットの夢とどのように結びつくのでしょうか?

カーネギーメロン大学の研究者たちは、役に立つかもしれないと信じている興味深い新しいツールを作成しました。 これは人工知能アルゴリズムであり、否定的な音声をブロックするのではなく、「ヘルプ音声」を強調表示または増幅して見つけやすくします。 その過程で、彼らは、インターネットを声なき人々に力を与えるための声としてより良くするというサイバートピアンの野望に役立つかもしれないと期待している。

声なき者のための声

A.I. カーネギーメロン大学の研究チームによって考案された 言語技術研究所では、YouTube のコメントを選別し、この例ではロヒンギャ コミュニティなど権利を剥奪された少数派を擁護または共感するコメントをハイライトします。 イスラム教徒のロヒンギャ民族は、2016年10月以来、ミャンマー政府によるほぼ継続的な一連の迫害を受けている。 大量虐殺の危機により、100万人以上のロヒンギャが近隣諸国への避難を余儀なくされている。 これは宗教的迫害と民族浄化を伴う絶望的な窮状であるが、地元のソーシャルメディアに寄せられたコメントの多くからは必ずしもそれを知ることができないだろう。 問題の反対側に関するコメントの数が圧倒的に多い。

「私たちは、権利を剥奪された少数派（この場合はロヒンギャ）の理念を擁護するためのフレームワークを開発し、彼らを支援するウェブコンテンツを自動的に検出しました。」 アシケ・クダブクシュカーネギーメロン大学コンピュータサイエンス部門のプロジェクトサイエンティストはデジタルトレンドに語った。 「私たちは、南アジアで非常に人気のあるソーシャル メディア プラットフォームである YouTube に焦点を当てました。 私たちの分析により、ロヒンギャに関するコメントの多くが彼らを軽蔑していることが明らかになりました。 私たちは、大義を擁護するコメントを検出するための自動化された方法を開発しました。そうでなければ、膨大な数の厳しく否定的なコメントによってかき消されてしまいます。」

「一般的な枠組みの観点から見ると、私たちの仕事は従来のヘイトスピーチ検出の仕事とは異なります。 ネガティブなコンテンツのブロックに取り組んでいますが、[これは]活発で非常に重要な研究分野です」とKhudabukhsh氏は述べています。 続けた。 「対照的に、私たちが支援的なコメント（いわゆるヘルプスピーチと呼んでいます）を検出するという私たちの取り組みは、ポジティブな部分を増幅させることでオンラインエクスペリエンスを向上させるという新たな方向性を示しています。」

AIを訓練するには フィルタリング システムを利用して、研究者らは 25 万件以上の YouTube コメントを収集しました。 彼らは、最先端の言語モデリング技術を使用して、これらのコメントを精査し、ロヒンギャコミュニティに味方するコメントを迅速に強調できるアルゴリズムを作成しました。 ご想像のとおり、ユーザー コメントの自動意味分析は簡単ではありません。 インド亜大陸だけでも 22 の主要言語があります。 また、言語を評価する際には、スペルの間違いや標準以外のスペルのバリエーションも頻繁に発生します。

ポジティブなものを強調する

それにもかかわらず、A.I. チームが開発した結果、肯定的なコメントの可視性を大幅に高めることができました。 さらに重要なのは、人間のモデレーターが行うよりもはるかに迅速にこれを実行できたことです。 リアルタイムで大量のコメントを手動で処理したり、特定のピンを固定したりすることができない人 コメント。 これは、一方の側が主要言語のスキルに制限があり、アクセスが制限されているシナリオでは特に重要になる可能性があります。 インターネット、またはオンラインでの参加よりも優先される可能性があるより優先度の高い問題（迫害の回避） 会話。

「私たちは皆、友人がいないときに別の友人のために立ち上がった経験を持っています」とフダブクシュ氏は続けた。 「次に、これを地球規模で考えてみましょう。 あなたについての世界的な議論にあなたが参加しておらず、自分を守ることができない場合はどうすればよいでしょうか? どうやってA.I. この状況で役に立ちますか？ 私たちはこれを「21世紀の問題」と呼んでいます。インターネットが普及し、難民の声がほとんど聞こえなくなった時代における移民危機です。 今後、地政学的問題、気候、資源に起因する理由が新たな移民危機を引き起こす可能性があり、オンライン世界でリスクにさらされているコミュニティを守るための私たちの取り組みは非常に重要であると考えています。」

しかし、特定の少数派の声を強調するだけで十分なのでしょうか、それともこれは、良いニュースだけを伝える報道機関を立ち上げるという数年ごとに展開されるコンセプトのアルゴリズム版にすぎないのでしょうか? おそらくある意味ではありますが、より広範な問題に対処する方法を提供することなく、単にトークンのコメントを強調するだけではありません。 それを念頭に置いて、研究者らはすでにプロジェクトを拡張して、AI を活用する方法を検討しています。 他のさまざまなコンテンツでポジティブなコンテンツを増幅するために使用できますが、それでも社会的影響は大きい シナリオ。 その一例は、核敵対者間の政治的緊張が高まる中でのオンラインでの議論です。 この成果は、チームが6月に開催される欧州人工知能会議（ECAI 2020）で発表する予定で、敵意を拡散させるコンテンツの検出と提示に利用できる可能性がある。 同様のテクノロジーは、それぞれに適した調整を行って、他の豊富なシナリオに対しても作成できる可能性があります。

これらは次の受け入れ率です。 #ECAI2020 貢献：
– フルペーパー: 26.8%
– ハイライトペーパー: 45%

レビュープロセスにご尽力いただき、誠にありがとうございました。

— ECAI2020 (@ECAI2020) 2020年1月15日

「コミュニティをどのように支援できるかという基本的な前提は、問題のコミュニティによって異なります」とクダブクシュ氏は述べた。 「難民危機が異なれば、支援についても異なる考え方が必要になるでしょう。 たとえば、伝染病の発生が大きな問題となっている危機では、医療支援の提供が非常に役立ちます。 経済的に恵まれないグループにとっては、コミュニティ内の人々の成功事例を強調することが動機付けとなる可能性があります。 したがって、ポジティブなコンテンツを自動的に見つけるには、コミュニティごとに異なるニュアンスのヘルプ音声分類子が必要になります。 私たちの仕事はその青写真を提供します。」

簡単な修正はありません

この取り組みは魅力的ですが、オンラインでの言論の問題を解決するのは簡単ではありません。 課題の 1 つは、現在のインターネットが大きな声に報いるということです。 たとえば、Google の PageRank アルゴリズムは、ページへのリンクの数と品質を数えることにより、認識された重要性に基づいて Web ページをランク付けします。 Twitter でのトレンドのトピックは、最も多くの人が何をツイートしているかによって決まります。 コメントセクションでは、最も強い反応を引き起こす意見が頻繁に強調されます。

インターネット上の想像を絶するほど多くの声が反対の声をかき消してしまう可能性があります。 少なくとも理論上は他の誰かと同じプラットフォームを持つ意見を疎外することがよくあります。

これを変えるには、YouTube の優れたコメント精査アルゴリズムを 1 つ以上使用する必要があります。 とはいえ、悪いスタートではない。

編集者のおすすめ

• 最後の仕上げ: 科学者はどのようにロボットに人間のような触覚を与えているのか
• 面白い公式: なぜ機械が生成するユーモアが A.I. の聖杯なのか
• A.I. 通常、何も忘れることはありませんが、Facebook の新しいシステムは忘れてしまいます。 その理由は次のとおりです
• 感情を感知するAI ここにあります。次の面接で取り上げられるかもしれません
• 言語スーパーモデル: GPT-3 がどのようにして静かに A.I. の到来をもたらしているのか 革命