Специалисты Google Jigsaw и Wikimedia нашли новый способ устранения негативных комментариев и разговоров в Интернете. Учёные разработали ИИ, способный анализировать онлайн переписки и прогнозировать положительный или негативный исход беседы.
Исследователи из Корнелльского университета США Google Jigsaw и Wikimedia объединились для создания программы, которая анализирует онлайн-переписки. Новый ИИ был подготовлен и протестирован на форуме специалистов Википедии, где редакторы обсуждают изменения статей. Эксперимент показал, что программа смогла предсказать в 65% случаев правильный исход обсуждения.
ИИ был запрограммирован на поиск функций, которые определяют настроение в разговоре. Например, признаки того, что исход обсуждения будет положительным, включают благодарность, приветствия, уважительное обращение и слово «пожалуйста». Все это объединяет участников беседы, создавая дружескую атмосферу. Негативные признаки - прямой вопрос («Почему об этом не упоминается? Почему вы не посмотрели на это?»), переход на личности и иные формы. Однако, программа не всегда может адекватно оценить настроение разговора, так она считает, что предложение «Я человек», - гораздо менее негативно, чем - «Я гей, черная женщина». А потому, ИИ предстоят множественные доработки.
Исследователи надеются, что в дальнейшем программа поможет избежать негативного контента и будет эффективней, чем специалисты, которые сегодня за это отвечают.
*