Недавно делились экспертным мнением о технологических трендах с одним изданием, поделимся и с вами.
Сейчас сформировались две противоположных тенденции — централизация и децентрализация. С одной стороны, — известные всем большие языковые модели, очень централизованные системы. Это гигантские серверные мощности, которые централизованно управляются и обслуживает гигантское количество людей.
С другой стороны, — совершенно по-другому устроенные, например, китайские системы компьютерного зрения. Передавать видео достаточно тяжело, а Китай чуть ли не весь оборудован видеокамерами. Поэтому там AI модели располагаются прямо на этих камерах — полностью децентрализовано. Развивается и “AI-самодеятельность” — люди берут готовые большие языковые модели, квантизуют их и запускают на собственных домашних серверах. Это, конечно, не массово, но это как раз одно из тех “гиковских” увлечений, из которых иногда вырастают целые индустрии. Вспомним Стива Джобса и Стива Возняка, которые сначала собирали компьютеры как хобби, а потом Джобс из этого сделал бизнес. Не исключено, что большие языковые модели со временем начнут переходить от централизованной формы к децентрализованной.
В России доступ к глобальным языковым моделям ограничен из-за технических и инфраструктурных факторов, поэтому локальные решения получили широкое распространение, в том числе на корпоративном уровне. Наши клиенты, как правило, предпочитают разворачивать подобные системы внутри периметра предприятия. Вероятно, тенденция к локальному развертыванию больших языковых моделей будет набирать силу.