Присоединяйтесь к событию, которым доверяют лидеры предприятия в течение почти двух десятилетий. VB Transform объединяет людей, строящих реальную стратегию ИИ предприятия. Узнать больше
Генеративное генерация кода с питанием от ИИ становится более мощным и более компактным.
Стабильность AI, поставщик, который, возможно, наиболее известен своим стабильным диффузионным текстом для генеративной технологии ИИ, сегодня объявил о своей первой новой модели ИИ в 2024 году: коммерчески лицензированный (через членство) стабильный код 3B.
Поскольку имя модели подразумевает стабильный код 3b является моделью параметров 3 миллиарда, и оно сосредоточено на возможностях завершения кода для разработки программного обеспечения.
В 3 миллиардах параметров стабильный код 3B может работать локально на ноутбуках без выделенных графических процессоров, в то же время обеспечивая конкурентную производительность и возможности против более крупных моделей, таких как Meta’s Codellama 7B.
Направление к более мелким, более компактным и способным моделям — это то, что AI стабильности начал продвигать вперед в конце 2023 года с такими моделями, как Stablelm Zephyr 3B для генерации текста.
Стабильность AI впервые предварительно просмотрел стабильный код в августе 2023 года с первоначальным выпуском Generation LLM и с тех пор неуклонно работает над улучшением технологий.
Как стабильность AI улучшила стабильный код 3b
Стабильность AI имеет улучшенный стабильный код несколькими способами с момента первоначального выпуска.
С новым стабильным кодом 3B модель не только предлагает новые строки кода, но также может заполнить более широкие пропущенные разделы в существующем коде.
Возможность заполнения пропущенных разделов кода является расширенной возможностью завершения кода, известной как заполнение в середине (FIM).
Обучение для модели была также оптимизирована с расширенным размером контекста с использованием методики, известной как вращающееся встроенные положения (веревка), при желании позволив длину контекста до 100 тыс. Токенов. Техника веревки — это та, которую также использует другие LLM, в том числе LlaMa 2 LlaMa 2.
Стабильный код 3B построен на стабильной модели LM 3B LM 3B. Благодаря дальнейшему обучению, ориентированному на данные разработки программного обеспечения, модель приобрела навыки завершения кода, сохраняя при этом сильные стороны в общих языковых задачах.
Его данные обучения включали репозитории кода, форумы программистов и другие технические источники.
Он также обучался на 18 различных языках программирования, а AI стабильности утверждает, что стабильный код 3B демонстрирует ведущую производительность на контрольных тестах на нескольких языках.
Модель охватывает популярные языки, такие как Python, Java, JavaScript, Go, Ruby и C ++. Ранние тесты указывают на то, что он соответствует или превышает качество завершения моделей в два раза в два раза.
Рынок для генеративных инструментов генерации кодов искусственного интеллекта конкурентоспособен с несколькими инструментами, включая Meta’s Codellama 7b, является одним из самых больших и популярных вариантов.
На стороне параметра в 3 миллиарда LLM StarCoder, который является совместно разработанным как усилие с открытым исходным кодом с участием IBM, HuggingFace и ServiceNow, является еще одним популярным вариантом.
Стабильность AI претендует на стабильный код 3B превосходит StarCoder через Python, C ++, JavaScript, Java, PHP и Rust -Languages.
Часть подписки на членство в стабильности
Стабильный код 3B предоставляется для коммерческого использования в рамках новой службы подписки на участие в стабильности AI, которая была впервые объявлена в декабре.
Участники получают доступ к стабильному коду 3B вместе с другими инструментами искусственного интеллекта в портфеле AI Stability, включая инструменты генерации Diffusion Image SDXL, StableLm Zephyr 3B для генерации текстового контента, стабильный аудио для генерации звука, стабильное видео для генерации видео.
Источник
