На ежегодном мероприятии TechXchange IBM анонсировала выпуск Granite 3.0, семейства моделей искусственного интеллекта, лицензированных под Apache 2.0, подчеркивая приверженность компании к open-source AI.
Новые модели Granite 8B и 2B разработаны для применения в корпоративном AI, предлагая передовые возможности по сниженной стоимости для задач, таких как Генерация с Увеличением Извлечения (RAG), классификация, суммирование, извлечение сущностей и использование инструментов. Эти модели могут быть обучены на корпоративных данных и без проблем интегрированы в различные бизнес-среды.
В отличие от большинства крупных языковых моделей (LLM), обученных на публичных данных, Granite использует недоиспользуемые корпоративные данные. Сочетая Granite с бизнес-данными и используя методы повторного обучения, такие как InstructLab, представленный IBM и RedHat, компании могут достичь конкурентоспособных показателей при значительно более низких затратах.
Выпуск Granite 3.0 подтверждает приверженность IBM к прозрачности, безопасности и надежности. Полная техническая документация подробно описывает наборы данных, использованные для обучения, процессы фильтрации, очистки и кураторства, а также данные о производительности по сравнению с основными академическими и бизнес-бенчмарками. IBM также предлагает гарантии интеллектуальной собственности для всех моделей Granite на watsonx.ai, что обеспечивает клиентам безопасную интеграцию их данных.
Модели Granite 3.0 были обучены на более чем 12 триллионах токенов на 12 языках и 116 языках программирования, используя двухфазный метод обучения, оптимизированный с помощью тысяч экспериментов. К концу года модели 8B и 2B также будут поддерживать расширенные длины контекста до 128K и возможности мультимодального понимания документов.
Кроме того, IBM представила семью моделей Granite Guardian, позволяющую разработчикам приложений реализовывать меры безопасности, контролируя запросы пользователей и ответы LLM на различные риски. Модели Granite Guardian 8B и 2B предлагают комплексные функции обнаружения рисков и могут использоваться с любыми открытыми или проприетарными моделями AI.
Полный набор моделей Granite 3.0 и обновленные модели временных рядов доступны для загрузки на HuggingFace под лицензией Apache 2.0 без ограничений. Варианты инструкций новых моделей Granite 3.0 и моделей Granite Guardian теперь доступны для коммерческого использования на платформе IBM watsonx. Выбор моделей Granite 3.0 также будет доступен в виде микросервисов Nvidia NIM и через Vertex AI Model Garden Google Cloud с HuggingFace. Кураторский выбор моделей Granite 3.0 также доступен на Ollama и Replicate.
Это последнее поколение моделей Granite расширяет каталог open-source IBM с мощными, специализированными LLM. IBM сотрудничала с партнерами, такими как AWS, Docker, Domo, Qualcomm AI Hub, Salesforce, SAP и другими, чтобы интегрировать модели Granite в их предложения или сделать их доступными на их платформах.