Нейросети часто выдают недостоверную информацию, поэтому главная задача сейчас — отрегулировать алгоритм так, чтобы нейросети смогли перепроверять сами себя. Об этом в беседе с НСН рассказал руководитель проекта по интеграции нейросетей в TenChat Александр Жадан.
Глава КПРФ Геннадий Зюганов ранее назвал развитие искусственного интеллекта (ИИ) «угрозой человечеству», его слова приводит NEWS.ru. Он отметил, что если люди не смогут его отрегулировать, то человечество «утонет в провокациях». Жадан отметил, что в словах Зюганова есть доля правды, и рассказал, почему ИИ может выдавать ложную информацию.
«Это слова недостаточно корректны, однако небезосновательны, поскольку алгоритм работы любого сервиса на основе генеративного алгоритма основан на принципе поиска наиболее подходящих ответов и из этого он собирает свой ответ. Мы видим, что нейросети не всегда выдают корректные ответы, поскольку алгоритм имеет неточности. Самый простой пример — спросить у нейросети, сколько букв «о» в слове «сороконожка». Нейросети не умеют считать и могут выдавать ошибки. Суть в том, чтобы сделать алгоритм наиболее корректным, чтобы он перепроверял сам себя. Поэтому нейросети сейчас активно развиваются в том направлении, что нужно не только выдать ответ, но и подумать над ним. Сейчас они будут наоборот понимать, что есть ошибки, которые нужно исправить, и на основе этого выдавать правильный ответ», — рассказал он.
При этом Жадан подчеркнул, что проблема фейков и недостоверной информации кроется не столько в нейросетях, сколько в самих людях.
«Проблема здесь не столько из-за нейросетей, она существует из-за природы людей. Так было в любое другое время. Любые фейковые новости можно сделать как с нейросетями, так и без них», — уточнил он.
Ранее стало известно, что компания миллиардера и американского политика Илона Маска xAI проведет расследование из-за того, что искусственный интеллект Grok предложил казнить президента США Дональда Трампа, передает Telegram-канал «Радиоточка НСН».