Публикации

Память трансформеров

Трансформеры, несмотря на всю их мощь, всё ещё легко заболтать до беспамятства, то есть дать им на вход такой длинный контекст, что они не смогут удержать его весь. [Нажмите на заголовок, чтобы прочитать публикацию полностью] ...

Робот Тео для поиска пораженных тюльпанов

Сезон тюльпанов в Нидерландах в этом году уже закончился, но сезон автоматизации и роботизации в мире и в нашем канале продолжается. Голландская H2L Robotics создала робота для детекции больных тюльпанов прямо на грядке на основе компьютерного зрения. [Нажмите на заголовок, чтобы прочитать публикацию полностью] ...

Рекуррентный блок вместо внимания в LLM

История всегда движется по спирали, и быстрая история развития нейронных сетей, оказывается, не исключение. Архитектура трансформеров в LLM в своё время полностью отодвинула рекуррентные нейронные сети, но через несколько лет (то есть примерно сейчас) спираль сделала виток, и вот РНН уже дышат трансформерам в спину. [Нажмите на заголовок, чтобы прочитать публикацию полностью] ...

Роботизация фармпроизводства

В этот раз новости автоматизаци из Греции. Афинская фармкомпания DEMO, ведущий производитель инъекций в стране, перешли на беспрерывное производство с помощью промышленных роботов. [Нажмите на заголовок, чтобы прочитать публикацию полностью] ...

Самая автоматизированная лесопилка Европы

Финская Metsä Group в 2020 запустила проект самой технологичной и эффективной лесопилки мира. К счастью, пандемия не повлияла на строительство и в 2022 лесопилка заработала. Образцово-показательная она по всем параметрам: от экологии до технологии. За последнее отвечает компания ABB. [Нажмите на заголовок, чтобы прочитать публикацию полностью] ...

Representation Finetuning

Black box AI is bad AI — гласит слоган исследовательской группы Pr(AI)2R (Practical AI Alignment and Interpretability Research). Её основал прошлым летом стэнфордский автор Аттикус Гигер (Atticus Geiger). Своей миссией группа считать превратить AI в “хороший AI”, то есть сделать его интерпретируемым. [Нажмите на заголовок, чтобы прочитать публикацию полностью] ...