foxhound_lj (foxhound_lj) wrote,
foxhound_lj
foxhound_lj

Categories:

Организаторы эксперимента взяли сгенерированный GPT-3 текст и попросили команду независимых участников отредактировать его. В результате разработчики увидели, как сильно поменялся тон у пропущенных через руки человека высказываний. Спору нет, GPT-3 ― это шедевральная система обработки естестественного языка, но… она самая настоящая шовинистка: не умеет рефлексировать и быть осознанной, а это значит, что метод с фильтрацией стоп-слов отпадает.

Нужно отдавать себе отчет, что если ИИ-системы не смогут вовремя прикусить себе язык, то корпорациям придется отказаться от технологии обработки речи, иначе все деловые переговоры будут сопровождаться трехэтажными матами и оскорблениями. Например, GPT-3 не видит разницы между фразами «геи существуют» и «геев не должно существовать», тогда какой прок от такого искусственного интеллекта, если бан слова «гей» автоматически вычеркивает упоминание всех членов ЛГБТКИА+? Если отсеять все слова, которые имеют отношения к оскорблениям, то GPT-3 останется только обзавестись дисклеймером «Только для белых».

Самое удручающее из этой ситуации ― это то, что DeepMind, одна из лидирующих компаний по обучению искусственного интеллекта, поделилась результатами эксперимента с Jigsaw, подразделением Google, которое занимается разбором полетов, и там сотрудники тоже разводят руками. Больше может только обескураживать факт, что разработчики пытаются решить эту проблему с 2016 года, и в ближайшее время ничего хорошего систему обработки естественного языка не ждет.



Сущность феномена сознания постепенно проясняется. Вот уже стало понятно, в чём его функция: сознание дано нам, чтобы мы могли врать.

Tags: ИИ
Subscribe

  • „Нас возвышающий обман“

    Читаю вот такое: Глава следственного управления СК РФ по Пермскому краю покончил с собой — и понимаю, зачем японцы придумали этот свой культ…

  • Прозрачные вещи

    Если принять, что значительная часть истории подложна, то я предложил бы такой способ отличения выдумки от реальности. Сначала надо вспомнить, что…

  • (no subject)

    Аскари Описанная выше ситуация, когда государство просто так отстаивает интересы третьих стран, как правило, вдали от своих границ, абсолютно…

  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your IP address will be recorded 

  • 1 comment