Новые нейросети 2023: обзор главных моделей и трендов года

Почему 2023 год стал переломным для нейросетей

2023 год ознаменовался массовым внедрением искусственного интеллекта в повседневную жизнь. Слова «нейросеть» и «искусственный интеллект» были признаны словами года по версии Collins и Института русского языка имени Пушкина. Это неудивительно: за 12 месяцев произошло сразу несколько знаковых событий, которые изменили представление о возможностях ИИ.

Главным триггером стал запуск ChatGPT в конце 2022 года, но именно в 2023-м технология вышла на новый уровень. Крупнейшие IT-компании — Google, Microsoft, Amazon, Baidu, Яндекс и Сбер — представили собственные языковые модели и чат-боты. При этом OpenAI не стояла на месте, выпустив GPT-4, которая до сих пор остаётся одной из самых мощных моделей.

Ключевые события года:

• Выход GPT-4 и значительное улучшение ChatGPT (контекст до 128 тыс. токенов, плагины).
• Появление конкурентов: Claude 2, Gemini, Grok, ERNIE Bot, GigaChat, YaGPT 2.
• Развитие опенсорсных моделей, таких как Bloom, и демократизация доступа к ИИ.
• Рост мультимодальности: нейросети научились работать с текстом, изображениями, аудио и видео одновременно.
• Интеграция ИИ-ассистентов в приложения и устройства (Microsoft Copilot, Google Bard).

Эти события заложили основу для дальнейшего развития, и 2024 год обещает быть не менее захватывающим.

Ключевые языковые модели 2023 года

В 2023 году почти все IT-гиганты представили свои большие языковые модели (LLM). Вот основные из них:

• GPT-4 от OpenAI — самая ожидаемая модель года. Она превзошла GPT-3.5 по многим параметрам: на 82% реже выдаёт запрещённый контент и на 40% чаще даёт фактические верные ответы. Архитектура GPT-4 основана на Mixture of Experts (MoE) и содержит около 1,8 трлн параметров, что в 10 раз больше, чем у GPT-3.5.
• Gemini от Google DeepMind — анонсирована как конкурент GPT-4, но не показала значительного превосходства. Тем не менее, модель мультимодальна и доступна в нескольких версиях.
• Claude 2 от Anthropic — модель, ориентированная на безопасность и этичность. Поддерживает контекст до 100 тыс. токенов.
• Grok от xAI (Илона Маск) — модель с доступом к реальным данным через X (Twitter), отличается «дерзким» стилем ответов.
• GigaChat от Сбера и YaGPT 2 от Яндекса — российские модели, которые достигли уровня ChatGPT (GPT-3.5) в работе с русским языком.
• ERNIE Bot от Baidu — китайская модель, работающая на ERNIE 3.5 и 4.0.
• Q от Amazon — модель для корпоративных клиентов, интегрированная с AWS.

Каждая из этих моделей имеет свои сильные стороны, и выбор зависит от конкретных задач.

Тренды в развитии нейросетей в 2023 году

Анализируя события года, можно выделить несколько ключевых трендов, которые будут определять развитие ИИ в ближайшие годы.

1. Рост мультимодальности. Нейросети перестали быть «текстовыми» или «графическими» по отдельности. GPT-4, Gemini и другие модели умеют работать с текстом, изображениями, аудио и видео одновременно. Это открывает новые возможности для создания контента и анализа данных.

2. Увеличение контекстного окна. Модели научились обрабатывать гораздо большие объёмы текста за один раз. GPT-4 поддерживает до 128 тыс. токенов (примерно 100 тыс. слов), а Claude 2 — до 100 тыс. Это позволяет анализировать целые книги или длинные документы.

3. Развитие опенсорсных моделей. Проекты вроде Bloom от Hugging Face предоставляют доступ к мощным моделям для исследователей и разработчиков, что способствует демократизации ИИ.

4. Интеграция с внешними сервисами. Нейросети научились использовать плагины и API для поиска актуальной информации в интернете, работы с базами данных и выполнения других задач. Это делает их более полезными в реальных сценариях.

5. Повышение безопасности и снижение «галлюцинаций». Разработчики активно работают над уменьшением количества ошибок и токсичных ответов. GPT-4 уже значительно безопаснее предыдущих версий.

6. Секретность архитектуры. Компании перестали раскрывать детали внутреннего устройства своих моделей, так как это стало конкурентным преимуществом. Например, OpenAI не сообщила точное количество параметров GPT-4.

Нейросети для генерации изображений

Генерация изображений по текстовому описанию стала одним из самых популярных применений нейросетей. В 2023 году появилось множество сервисов, которые позволяют создавать уникальные картинки, арты и иллюстрации.

Среди самых известных:

• DALL-E 2 от OpenAI — одна из первых моделей, которая поразила мир качеством генерации.
• Midjourney — сервис, который стал любимым инструментом дизайнеров и художников благодаря стилю и детализации.
• Stable Diffusion — опенсорсная модель, которую можно запускать локально на своём компьютере.
• RUDALL-E — российская модель от Сбера, адаптированная для русского языка.
• Craiyon (DALL-E Mini) — бесплатный сервис для быстрой генерации.
• Artbreeder — позволяет создавать изображения путём смешивания и мутации.

Эти инструменты активно используются в маркетинге, дизайне, создании контента для соцсетей и даже в искусстве. Однако важно помнить об авторских правах и этичности использования сгенерированных изображений.

Нейросети для текста и общения

Текстовые нейросети стали незаменимыми помощниками для копирайтеров, маркетологов, программистов и студентов. Они умеют писать статьи, переводить, отвечать на вопросы, генерировать код и даже вести диалог.

Основные представители:

• ChatGPT — самый популярный чат-бот, работающий на моделях GPT-3.5 и GPT-4. Он умеет писать тексты, решать задачи, объяснять сложные концепции.
• Я.Автопоэт и Балабоба от Яндекса — российские сервисы для генерации стихов и текстов.
• Smodin — многофункциональный инструмент для написания текстов, включая рерайт и генерацию идей.
• Anyword — сервис для создания маркетинговых текстов с учётом целевой аудитории.
• InterKit — генератор текста на основе GPT-2.

Важно понимать, что нейросети могут ошибаться и «галлюцинировать», поэтому их ответы стоит проверять. Тем не менее, они значительно экономят время и помогают в творческих задачах.

Нейросети для обработки изображений и фото

Помимо генерации, нейросети активно используются для обработки существующих изображений: улучшение качества, удаление фона, раскрашивание чёрно-белых фото, создание аватаров и многое другое.

Популярные сервисы:

• Remove.bg — мгновенно удаляет фон с фотографий.
• Lensa — создаёт стилизованные аватары и улучшает портреты.
• Colorize — раскрашивает чёрно-белые фотографии.
• Let’s Enhance и Bigjpg — увеличивают разрешение изображений без потери качества.
• Waifu2x — специализируется на аниме-артах.
• MyHeritage Deep Nostalgia — «оживляет» старые фотографии, заставляя людей на них двигаться.

Эти инструменты полезны как для профессионалов, так и для обычных пользователей. Например, ретушёры могут быстро убрать фон, а историки — восстановить старые снимки.

Нейросети в медицине, финансах и других сферах

Нейросети находят применение далеко за пределами творческих задач. В 2023 году были достигнуты значительные успехи в таких областях, как медицина, финансы, робототехника и наука.

Медицина:

• AlphaFold 2 от DeepMind предсказывает структуру белков, что помогает в разработке лекарств.
• CheXNeXt анализирует рентгеновские снимки и может обнаруживать заболевания лучше некоторых врачей.
• WaveNet генерирует реалистичную речь, что полезно для людей с нарушениями речи.

Финансы:

• LSTM используется для анализа временных рядов и прогнозирования курсов акций.
• Reinforcement Learning применяется для оптимизации торговых стратегий.

Робототехника:

• SpotMini от Boston Dynamics использует нейросети для автономного перемещения и выполнения задач.
• AGI — амбициозный проект по созданию искусственного общего интеллекта.

Наука:

• ViT (Vision Transformer) — революционный подход к компьютерному зрению.
• T5 — универсальная модель для обработки естественного языка.

Эти примеры показывают, что нейросети становятся важным инструментом в самых разных отраслях.

Российские нейросети: GigaChat, YaGPT и другие

Россия активно развивает собственные нейросети, которые могут конкурировать с западными аналогами. В 2023 году были представлены несколько значимых моделей.

GigaChat от Сбера — мультимодальная модель, которая умеет общаться, генерировать тексты и изображения. По качеству работы с русским языком она достигла уровня ChatGPT (GPT-3.5).

YaGPT 2 от Яндекса — языковая модель, которая легла в основу Алисы и других сервисов. Также достигла уровня ChatGPT в русскоязычных задачах.

Fusion Brain от Сбера — проект, развивающий идеи Mixture of Experts для мультимодальных решений.

RUDALL-E — модель для генерации изображений, адаптированная под русский язык.

Балабоба и Я.Автопоэт — развлекательные сервисы для генерации текстов.

Российские разработчики активно работают над улучшением качества и расширением функциональности. По прогнозам экспертов, в 2024 году разрыв с мировыми лидерами может сократиться.

Этические вопросы и безопасность нейросетей

С ростом возможностей нейросетей возникают и серьёзные этические проблемы. В 2023 году активно обсуждались вопросы безопасности, предвзятости и злоупотребления технологией.

Основные риски:

• Галлюцинации — модели могут выдавать вымышленные факты за реальные.
• Предвзятость — нейросети обучаются на данных, которые могут содержать стереотипы и дискриминацию.
• Злоупотребление — генерация фейковых новостей, дипфейков, спама.
• Потеря рабочих мест — автоматизация может затронуть многие профессии.

Меры предосторожности:

• Разработчики внедряют фильтры для запрещённого контента.
• Исследователи работают над методами выявления сгенерированных текстов и изображений.
• Компании принимают политики ответственного использования ИИ.

Важно, чтобы пользователи критически относились к информации, полученной от нейросетей, и проверяли её из надёжных источников.

Прогнозы на 2024 год: что дальше?

Эксперты сходятся во мнении, что в 2024 году развитие нейросетей продолжится, но с акцентом на эффективность и безопасность.

Ожидаемые события:

• Выход GPT-5 от OpenAI, который, по слухам, может приблизиться к уровню AGI (искусственного общего интеллекта).
• Улучшение мультимодальных моделей, способных обрабатывать ещё большие объёмы данных.
• Рост числа опенсорсных моделей и демократизация доступа к ИИ.
• Усиление регулирования со стороны государств.

Тренды:

• Модели станут более эффективными: будут работать лучше при меньших размерах.
• Контекстные окна вырастут до 1–2 миллионов токенов.
• Нейросети научатся лучше понимать редкие языки.
• Китай продолжит наращивать свои разработки.

Однако некоторые эксперты, например Роман Душкин, сомневаются, что текущая архитектура трансформеров позволит достичь качественного скачка. Возможно, появятся новые подходы, такие как когнитивные архитектуры (BICA).

В любом случае, 2024 год обещает быть интересным для всех, кто следит за развитием искусственного интеллекта.

Вопросы и ответы