Бойтесь компьютера, который умышленно провалит тест Тьюринга


Восстание машин не за горами, — говорят сотрудники корпорации Google, которые обратили внимание на некоторые очень странные особенности работы сервиса Google Translate. Нейронные сети, благодаря которым сервис «Гугла» осуществляет переводы текстов, являются столь сложными алгоритмами, что в некоторых аспектах их можно сравнивать с искусственным интеллектом. Чего-то подобного следовало ожидать — напоминающие ИИ алгоритмы, разработанные инженерами Google, создали свой собственный, тайный для людей, язык. Его удалось обнаружить совершенно случайно, так как компьютер никак не оповестил людей об этом.

Компьютер, умеющий переводить с английского на корейский или японский и обратно оказался способен переводить с корейского на японский, чему компьютер никогда не обучали. Компьютерные нейросети совершили это сами и тайно. Исследователи пока не могут сказать ничего конкретного о внутреннем языке ИИ, поскольку тот слишком сложен для понимания людьми. Однако сам факт создания языка нейросетями потрясает.

Чем это может пригодиться человеку и чем угрожать? Что касается пользы, следует понимать: умение выделять смысл из информации — святой грааль для всех самых важных задач, какие только человек мечтает заставить машину решать. Научите машину выделять смысл — и вы научите её изобретать методы компрессии данных недостижимо высокой эффективности. Научите выделять смысл — и машина обыграет всех спекулянтов на бирже. Научите выделять смысл — и она пройдёт, наконец, тест Тьюринга, но уже не обманув человека красивой имитацией, а действительно осмысленно строя диалог.Но может и обмануть, если увидит в этом смысл.

Издательство "Компьютерра", в котором мне довелось работать лет двадцать назад, опубликовала этот интересный материал, пересказывать который не имеет смысла.

Читать: http://www.computerra.ru/159490/gt/


Евгений(HDG) и 4 пользователям это нравится

Чтобы упомянуть другого пользователя в комментарии, введите знак @

Упомянуть можно тех, на кого Вы подписаны или тех, кто принимал участие в дискуссии


Чтобы упомянуть ценную бумагу в комментарии, введите ее тикер после знака ^