Цифровой директор подводит итоги года — рассказываем, каким был 2024 год в общемировом IT и в нашей компании.
Темой года в информационных технологиях опять стал искусственный интеллект, и массовое сознание было обращено в сторону генеративного ИИ. Тут и множество новых моделей, которые генерят картинки и видео, и новые модели для генерации текстов. Причем во многих приложениях open-source модели уже вот-вот догонят проприетарные модели, если еще не догнали (например, в генерации картинок).
Параллельно с этим выяснилось, что публично доступные данные в интернете закончились. Да, можно фильтровать существующие данные, можно получать синтетические данные с помощью уже готовых языковых моделей, но это слабо улучшит качество языковых моделей, которые по-прежнему и близко не являются универсальными «решалками» для всего.
В 2024 году на первый план вышло развитие у моделей reasoning, то есть способности рассуждать. Разные команды, в том числе команда НТР, начали исследовать эту тему ещё раньше, но после того, как OpenAI первыми анонсировали reasoning модель — знаменитую o1 — всех пробило, что здесь может быть новый прорыв для ИИ. Появилось множество микроклонов о1, но OpenAI в это же время в полную силу развивала reasoning и буквально несколько дней назад анонсировала модель о3 (пропустив о2 якобы по соображениям соблюдения прав на товарный знак, потому что O2 – это большой британский телеком оператор).
Модель о3 наделала шуму, потому что она действительно умеет программировать, в отличие от всего предыдущего. Есть хороший тест на программирование, это репозитории из гитхаба, в которых нужно исправить баги. Раньше лучшие языковые модели достигали максимум нескольких процентов точности. Один из стартапов добился 14%, за что сразу получил 200 миллионов инвестиций.
Модель о3 добилась целых 71%, то есть почти достигла уровня человека. Но есть нюанс. Модель о3 (как и о1 до неё) использует так называемый inference time scaling, то есть масштабирование вычислений во время решения задачи. Грубо говоря, если больше и дольше думать, то лучше получится решить задачу. И действительно, о1 думала больше, генерируя (и используя вычислительные ресурсы) в сотни раз больше, нежели чем прежние модели, а о3 генерирует в миллионы раз больше. Поэтому час работы модели типа о3 может обойтись в десятки тысяч долларов. Так что пока что кожаный программист все-таки дешевле, чем решение тех же задачек с помощью искусственного интеллекта. Скорее всего, в среднесрочной перспективе эта разница сначала сравняется, а потом действительно с помощью искусственного интеллекта сложные технологические задачки станет постепенно решать дешевле.
Естественно, другая ситуация – это open-source модели, которым до этого далеко, а в России более или менее доступен только open-source и проприетарные модели того жу уровня. Конечно, если бы мы чуть-чуть больше сконцентрировались на этой задаче сами, может быть мы что-то уже могли бы продемонстрировать, но все равно ресурсы наши с OpenAI несопоставимы. Просто так такие компании, как мы, OpenAI догнать не смогут.
Что же до нас, то в 2024 у нас было много пилотных проектов. Часть из них переходит или уже перешла в полноценные проекты. Одно из новых для нас направлений — обучаемая робототехника (некоторыми нашими успехами мы делились в этом канале). Довольно скоро мы рассчитываем выпустить новые промышленные роботы и новые модели дронов. Но это не итоги года, это планы на следующий.
Надеемся, что мы продолжим сотрудничество с нашими заказчиками и по-прежнему будем реализовывать нетривиальные проекты, которые помогают развивать российскую промышленность.