Новое направление в развитии ИИ: децентрализация и открытый исходный код 🚀💻
В последнее время вектор развития ИИ сместился в сторону децентрализации и открытого исходного кода. Это позволило создавать местные модели ИИ, которые можно использовать приватно, гибко настраивать и контролировать, не полагаясь на популярные коммерческие решения.
Для начала знакомства с автономными ИИ-моделями рекомендуют использовать две основных платформы: GitHub и Hugging Face. Первая традиционно используется для публикации исходного кода, документации и установочных скриптов, вторая — глобальный хаб для весов моделей, датасетов и готовых ML-решений.
Чтобы выбрать необходимую модель, помогают метрики активности сообщества. На GitHub они представлены количеством звезд (stars), регулярностью обновлений (commits) и скоростью решения проблем (issues). Кроме того, важно проверять происхождение продукта и подлинность репозитория, чтобы избежать кибермошенничества.
Следующий этап знакомства с локальными ИИ-моделями — опробовать их функционал на практике. Для этого существуют бесплатные и условно-бесплатные облачные платформы, такие как Google Colab, Kaggle Notebooks и Hugging Face Spaces.
При работе с федеративными решениями важно учитывать юридический аспект. Многие популярные проекты доступны под классическими лицензиями, такими как MIT или Apache 2.0, что позволяет использовать их в том числе в коммерческих целях с минимальными ограничениями.
Однако существуют и специфические подходы, такие как лицензия Llama 3.1 Community License, которая требует получения специального разрешения, если ежемесячная аудитория сервиса превышает 700 млн пользователей.
Строгие лицензии, такие как GNU General Public License, также встречаются, обязывая открывать код всех производных продуктов.
Мои личные фавориты: ChatGPT и его аналоги 🤖💻
Из огромного числа автономных LLM общего назначения (аналогов ChatGPT или Gemini) выбрать необходимую модель помогают независимые рейтинги на основе слепого тестирования и метрик производительности вроде Open LLM Leaderboard и Chatbot Arena.
Золотым стандартом сегмента считается семейство моделей Llama разработчика Meta и Qwen от Alibaba. Эти модели хорошо работают с длинным контекстом, справляются с многошаговыми запросами и подходят для задач вайбкодинга и программирования.
Приватная обработка данных, 3D-печать и защита пользователя 🔒💻
Варианты взаимодействия с открытыми ИИ-моделями зависят от уровня подготовки пользователя и аппаратного обеспечения. Существуют проекты, упакованные в удобные инсталляторы или мобильные приложения, работающие «из коробки». Другие представляют собой заброшенные GitHub-репозитории, где установка превращается в многочасовую борьбу с конфликтами устаревших библиотек.
Примечательно, что некоторые проекты используются не только для генерации текста, но и для более узких и необычных задач, таких как генерация видео, извлечение информации о глубине резкости из видео, передовая система генерации 3D-ассетов и многое другое.
Борьба с библиотеками и первый успех 💪💻
После установки ИИ-моделей с понятными UI/UX необходимо было выяснить, насколько легко удастся развернуть тяжелый репозиторий в облаке, причем бесплатно. FLUX.1 — одна из передовых моделей генерации изображений, конкурирующая с корпоративными Midjourney и Nano Banana. При наличии необходимого оборудования софт может работать автономно без доступа к интернету и позволяет обходить цензуру.
На практике бесплатный Google Colab удобнее использовать на выходных, когда платформа нередко предоставляет более продолжительный доступ. Модель заняла порядка 34 ГБ дискового пространства облачного SSD, но все сопутствующие установке процессы в итоге использовали около 86 ГБ.
Открытый ИИ: от генерации текста до анализа данных 🎉💻
Открытый ИИ давно используется не только для генерации текстов и изображений, но и для более узких и необычных задач. Примечательно, что исследователи из Тель-Авивского и Мюнхенского университетов обучили модель Akkademia напрямую переводить древнюю аккадскую клинопись на английский язык. Это позволяет обрабатывать тысячи поврежденных глиняных табличек, ускоряя работу археологов в десятки раз.
Не менее интересен проект MinD-Vis, который анализирует данные функциональной МРТ и пытается реконструировать изображения, которые испытуемый наблюдает в момент сканирования. Это генерирует интерпретацию увиденного человеком на основе паттернов мозговой активности.
Подобные инициативы доказывают, что искусственный интеллект превратился в универсальный инструмент познания и моделирования реальности. Переход инициативы от закрытых корпоративных API к открытому исходному коду формирует совершенно новую парадигму развития технологий.
По материалам ForkLog