OpenAI, ведущая компания в области искусственного интеллекта, по всей видимости, работает над новой технологией. Согласно сообщениям, компания, поддерживаемая Microsoft, разрабатывает новую технологию рассуждений.
OpenAI, разработчик ChatGPT, Sora и Dall-E, поддерживаемый Microsoft, работает над таинственным проектом под кодовым названием "Strawberry". Утверждается, что с помощью этого проекта компания пытается привнести новый подход в процессы разработки моделей искусственного интеллекта.
Проект Strawberry, как утверждается, позволит OpenAI добавить расширенные возможности рассуждений в большие языковые модели. По данным Reuters, OpenAI хранит свои планы относительно Strawberry и информацию о том, как он работает, даже внутри компании. Однако в настоящее время неизвестно, когда Strawberry будет представлен публике.
С другой стороны, благодаря Strawberry искусственный интеллект будет не только выдавать ответы на запросы, но и планировать достаточно далеко вперед, чтобы автономно и надежно ориентироваться в интернете с помощью механизма, который компания называет "глубоким исследованием". Однако есть и другая, более важная деталь. По слухам, проект Strawberry на самом деле является таинственным проектом Q* (произносится как Q-Star), о котором мы слышали в прошлом. В последние месяцы было заявлено, что Q* может стать поворотным пунктом в поисках сверхразума, также известного как искусственный интеллект общего назначения (ИИОН).
Кроме того, в прошлый вторник на внутреннем совещании компания OpenAI показала исследовательский проект, который, как утверждается, обладает новыми человекоподобными способностями к рассуждению. Неясно, является ли это проектом Strawberry, но признаки указывают на это.
Разум, или рассуждения, - одно из самых слабых мест современных искусственных интеллектов. Да, мы можем резюмировать плотные тексты и создавать прозу с помощью больших языковых моделей (на которых работают такие системы, как ChatGPT), но все они терпят неудачу, когда дело доходит до вопросов, требующих интуиции и здравого смысла, а точнее, мысли. При столкновении с такими вопросами модели выдают сфабрикованную информацию, называемую "галлюцинациями".
ИИ, которые сильны в рассуждениях, могут быть сильны в планировании, понимании физического мира и решении сложных многоэтапных задач. Поэтому усиление способности моделей ИИ к рассуждениям может кардинально изменить их способность делать все - от совершения крупных научных открытий до планирования и создания новых программных приложений. В январской беседе с Биллом Гейтсом генеральный директор OpenAI Сэм Альтман сказал, что "самые важные области прогресса будут связаны с рассуждениями" в ИИ.
Кроме того, говорят, что то, над чем работает OpenAI, имеет сходство с методом, разработанным в Стэнфорде в 2022 году и названным "Self-Taught Reasoner" или "STaR". STaR - это подход, позволяющий моделям искусственного интеллекта итеративно генерировать собственные обучающие данные для повышения уровня интеллекта. Теоретически этот подход может быть использован для создания языковых моделей, превосходящих человеческий уровень интеллекта.
