이 A.I. 온라인에서 댓글을 읽는 방식이 바뀔 수 있습니다.

인터넷 같은 문제는 어떻게 해결하나요? 솔직히 25년 전만 해도 거의 이해되지 않았던 질문입니다. 정보와 민주적 가치를 지구 곳곳에 전파할 수 있는 능력을 갖춘 인터넷은 ~였다 대답.

인터넷에 치료법을 묻는 것은 암 치료법을 묻는 것과 같았습니다. 2020년에는 상황이 좀 더 흐릿해졌습니다. 그렇습니다. 인터넷은 모든 종류의 일에 놀라울 정도로 훌륭합니다. 하지만 이는 또한 문제를 야기합니다. 가짜뉴스 확산 음, 모든 YouTube 댓글 섹션이 있는 디지털 오물통까지 말이죠. 다르게 말하면, 인터넷은 온갖 종류의 해를 끼칠 수 있습니다. 어떻게 청소하나요?

여기에는 간단한 대답이 없습니다. 알고리즘 기반 검열이 답인가요, 아니면 인간 중심 검열이 답인가요? 논란이 되는 주제에 대한 모든 댓글 섹션을 닫아야 합니까? 개인 소유의 플랫폼이 정말로 모든 사람에게 발언권을 제공해야 한다는 의무감을 느껴야 합니까? 공익을 위해 비주류 의견을 차단하는 것이 모든 사람에게 목소리를 내겠다는 인터넷의 꿈과 어떻게 일치합니까?

Carnegie Mellon University의 연구원들은 도움이 될 수 있다고 믿는 흥미로운 새 도구를 만들었습니다. 부정적인 말을 차단하는 것이 아니라 '도움 말'을 강조하거나 증폭시켜 쉽게 찾을 수 있도록 하는 인공지능 알고리즘입니다. 그 과정에서 그들은 인터넷을 목소리 없는 사람들에게 힘을 실어주는 목소리로 만들려는 사이버토피아적 야망에 도움이 될 수 있기를 바라고 있습니다.

소리 없는 이들을 위한 목소리

A.I. Carnegie Mellon의 팀이 고안한 것 언어 기술 연구소는 YouTube 댓글을 선별하여 로힝야 커뮤니티와 같이 권리를 박탈당한 소수자를 옹호하거나 동정하는 댓글을 강조합니다. 무슬림 로힝야족은 2016년 10월부터 미얀마 정부에 의해 계속되는 일련의 박해를 받아왔다. 대량 학살 위기로 인해 백만 명이 넘는 로힝야족이 이웃 국가로 도피했습니다. 이는 종교적 박해와 인종 청소와 관련된 절박한 곤경입니다. 하지만 지역 소셜 미디어에 올라온 많은 댓글에서 이를 반드시 알 수는 없습니다. 문제의 반대편에 대한 댓글 수가 압도적입니다.

"우리는 권리를 박탈당한 소수 민족(이 경우에는 로힝야족)을 옹호하기 위한 프레임워크를 개발하여 그들을 지원하는 웹 콘텐츠를 자동으로 감지합니다." 아시케 쿠다부크시, Carnegie Mellon 컴퓨터 공학과의 프로젝트 과학자는 Digital Trends에 말했습니다. “우리는 남아시아에서 엄청난 인기를 누리고 있는 소셜 미디어 플랫폼인 YouTube에 집중했습니다. 우리의 분석에 따르면 로힝야족에 대한 많은 댓글이 그들을 폄하하는 것으로 나타났습니다. 우리는 수많은 가혹하고 부정적인 댓글로 인해 가려질 원인을 옹호하는 댓글을 탐지하는 자동화된 방법을 개발했습니다."

“일반적인 프레임워크 관점에서 볼 때 우리 작업은 증오심 표현 탐지에 중점을 두는 기존의 증오심 표현 탐지 작업과 다릅니다. 부정적인 콘텐츠를 차단하고 있지만 [이것은] 활발하고 매우 중요한 연구 분야입니다.” 계속되는. "반대로, 도움의 말이라고 부르는 지지적인 코멘트를 탐지하는 우리의 작업은 긍정적인 점을 증폭시켜 온라인 경험을 향상시키는 새로운 방향을 제시합니다."

AI를 훈련시키기 위해 필터링 시스템을 통해 연구원들은 25만 개 이상의 YouTube 댓글을 수집했습니다. 최첨단 언어 모델링 기술을 사용하여 이러한 댓글을 조사하여 로힝야 커뮤니티에 편향된 댓글을 신속하게 강조할 수 있는 알고리즘을 만들었습니다. 사용자 댓글에 대한 자동화된 의미 분석은 예상대로 쉽지 않습니다. 인도 아대륙에만 22개의 주요 언어가 있습니다. 또한 언어를 평가할 때 처리해야 할 철자 오류와 비표준 철자 변형이 자주 발생합니다.

긍정적인 점을 강조하라

그럼에도 불구하고 A.I. 팀이 개발한 긍정적인 댓글의 가시성을 크게 높일 수 있었습니다. 더 중요한 것은 인간 조정자가 할 수 있는 것보다 훨씬 더 빠르게 이 작업을 수행할 수 있다는 것입니다. 실시간으로 대량의 댓글을 수동으로 처리하고 특정 댓글을 고정할 수 없는 사람 코멘트. 이는 한쪽이 지배적인 언어에 대한 기술이 제한적이고, 언어에 대한 접근이 제한된 시나리오에서 특히 중요할 수 있습니다. 인터넷 또는 온라인 활동에 참여하는 것보다 우선할 수 있는 더 높은 우선순위 문제(읽기: 박해 피하기) 대화.

“우리 모두는 친구가 없을 때 다른 친구를 대신해 도와주는 친구가 된 경험이 있습니다.”라고 Khudabukhsh는 말했습니다. “이제 이것을 세계적인 규모로 생각해 보세요. 당신에 관한 세계적인 논의에 당신이 참석하지 않고 자신을 방어할 수 없다면 어떻게 될까요? A.I. 이 상황에서 도움이 되나요? 우리는 이것을 21세기 문제라고 부릅니다. 난민의 목소리가 거의 들리지 않는 유비쿼터스 인터넷 시대의 이주 위기입니다. 앞으로 우리는 지정학적 문제, 기후 및 자원 중심의 이유가 새로운 이민자 위기를 촉발할 수 있다고 생각하며 온라인 세계에서 위험에 처한 커뮤니티를 보호하기 위한 우리의 노력이 매우 중요합니다.”

그러나 이는 단순히 특정 소수의 목소리를 충분히 강조하는 것입니까, 아니면 단지 좋은 소식만 전하는 뉴스 매체를 창설한다는 몇 년에 한 번씩 등장하는 개념의 알고리즘 버전에 불과합니까? 어떤 면에서는 그럴 수도 있겠지만, 이는 더 광범위한 문제를 해결할 수 있는 방법을 제공하지 않고 단순히 토큰 댓글을 강조하는 것 이상입니다. 이를 염두에 두고 연구자들은 이미 AI가 활용되는 방식을 살펴보기 위해 프로젝트를 확장했습니다. 다른 다양한 콘텐츠를 통해 긍정적인 콘텐츠를 증폭시키는 데 사용될 수 있지만 그럼에도 불구하고 사회적 영향력은 매우 높습니다. 시나리오. 한 가지 예는 핵 적대국 간의 정치적 긴장이 고조되는 동안의 온라인 토론입니다. 팀이 6월 유럽 인공지능 회의(ECAI 2020)에서 발표할 이 작업은 적대감을 확산시키는 콘텐츠를 탐지하고 제시하는 데 사용될 수 있습니다. 각각에 적합한 조정을 통해 다양한 다른 시나리오에 대해 유사한 기술을 만들 수 있습니다.

다음은 합격률입니다. #ECAI2020 기여:
– 논문 전체: 26.8%
– 하이라이트 논문: 45%

검토 과정에 쏟으신 노력에 진심으로 감사드립니다!

- ECAI2020 (@ECAI2020) 2020년 1월 15일

Khudabukhsh는 “커뮤니티가 어떻게 도움을 받을 수 있는지에 대한 기본 전제는 해당 커뮤니티에 따라 다릅니다.”라고 말했습니다. “난민 위기가 다르더라도 도움에 대한 다른 개념이 필요할 것입니다. 예를 들어, 전염병 발병이 주요 문제인 위기 상황에서는 의료 지원을 제공하는 것이 큰 도움이 될 수 있습니다. 경제적으로 취약한 일부 집단의 경우 지역사회 사람들의 성공 사례를 강조하는 것이 동기 부여 요인이 될 수 있습니다. 따라서 각 커뮤니티에는 긍정적인 콘텐츠를 자동으로 찾으려면 서로 다른 미묘한 도움말 음성 분류자가 필요합니다. 우리의 작업은 이에 대한 청사진을 제공합니다.”

쉬운 수정은 없습니다

이 작업은 매우 흥미롭지만 온라인 연설 문제를 해결하는 데 있어 쉬운 해결책은 없습니다. 문제의 일부는 현재 존재하는 인터넷이 큰 목소리에 보상한다는 것입니다. 예를 들어 Google의 PageRank 알고리즘은 페이지 링크의 수와 품질을 계산하여 인지된 중요도에 따라 웹페이지의 순위를 매깁니다. 트위터의 인기 주제는 가장 많은 사람들이 트윗하는 주제에 따라 결정됩니다. 댓글 섹션에서는 가장 강력한 반응을 불러일으키는 의견을 자주 강조합니다.

인터넷에는 상상할 수 없을 정도로 많은 목소리가 반대 목소리를 압도할 수 있습니다. 적어도 이론상으로는 다른 사람과 동일한 플랫폼을 갖고 있는 소외적인 목소리가 종종 있습니다.

이를 변경하려면 멋진 YouTube 댓글 수색 알고리즘보다 훨씬 더 많은 것이 필요합니다. 그래도 나쁜 시작은 아닙니다.

편집자의 추천

• 마무리: 과학자들이 로봇에게 인간과 같은 촉각을 부여하는 방법
• 재미있는 공식: 기계가 생성한 유머가 AI의 성배인 이유
• 일체 포함. 일반적으로 아무것도 잊지 않지만 Facebook의 새로운 시스템은 잊어버립니다. 이유는 다음과 같습니다
• 감정 감지 A.I. 여기 있습니다. 다음 면접에 나올 수도 있습니다.
• 언어 슈퍼모델: GPT-3가 AI를 조용히 도입하는 방법 혁명