OpenAI работает над созданием ИИ нового поколения, сотрудники компании встревожены: мы уже на пороге технологической сингулярности?

Интересные новости всплыли. Перед скандальным увольнением главы OpenAI Сэма Альтмана, по словам одного из инсайдеров компании, несколько сотрудников направили руководству тревожное письмо. В нем речь шла о грандиозном прорыве в области искусственного интеллекта, который может представлять угрозу для человечества.

Речь идёт о проекте под кодовым названием Q*. По словам инсайдера, эта разработка радикально отличается от известной модели GPT, используемой, к примеру, в популярном чат-боте ChatGPT. В отличие от последнего, системы на базе Q* решают задачи полностью автономно. Они анализируют ситуацию, обучаются на опыте, понимают совершённые ошибки и делают выводы — подобно человеку.

Пока революционный ИИ способен справляться лишь с простейшими задачами школьного уровня. Тем не менее, учёные компании уже бьют тревогу по поводу его огромных потенциальных возможностей, которые могут представлять опасность для человечества.

Дело в том, что современные системы типа ChatGPT, основанные на модели GPT, регулярно совершают ошибки даже в школьных задачах по математике и другим точным наукам. Это происходит потому, что они опираются лишь на статистические закономерности, а не на глубокое понимание предмета. Проще говоря, с течением времени такие модели научились эффективно обрабатывать информацию, но при этом не могут критически её оценивать.

Вот почему ChatGPT запросто генерирует убедительные на первый взгляд, но зачастую ошибочные или бессмысленные тексты. А в основе проекта Q*, по заверениям его создателей, лежит как раз стремление к пониманию сути задачи и нахождению точного, обоснованного решения.

Скандальное послание сотрудников OpenAI могло стать последней каплей для руководства компании, недовольного хаотичным развитием продуктов под предводительством Сэма Альтмана без должного внимания к вопросам безопасности. Возможно, именно о системе Q* намекал Альтман в своей недавней речи перед мировыми лидерами. Он пообещал скорый научный прорыв, способный раскрыть перед человечеством новые горизонты.

Что ж, похоже этот прорыв близок как никогда. Но готово ли мы к нему? Сумеют ли ученые предотвратить потенциальную угрозу от создаваемого своими же руками искусственного разума нового поколения? Ответы на эти вопросы мы, возможно, узнаем очень скоро.