Grok-1 — это авторегрессионная модель на основе преобразователя, предварительно обученная для прогнозирования следующего токена. Затем модель была доработана с использованием обширных отзывов как от людей, так и от ранних моделей Grok-0. Первоначальный Grok-1 имеет длину контекста 8192 токена и выпущен в ноябре 2023 года.
Предполагаемое использование
Grok-1 предназначен для использования в качестве механизма Grok для задач обработки естественного языка, включая ответы на вопросы, поиск информации, творческое письмо и помощь в кодировании.
Ограничения
Хотя Грок-1 превосходно обрабатывает информацию, крайне важно, чтобы люди проверяли работу Грок-1, чтобы гарантировать точность. Языковая модель Grok-1 не имеет возможности самостоятельного поиска в Интернете. Инструменты поиска и базы данных расширяют возможности и актуальность модели при развертывании в Grok. Модель все еще может галлюцинировать, несмотря на доступ к внешним источникам информации.
Данные обучения
Данные обучения, используемые для релизной версии Grok-1, поступают как из Интернета до третьего квартала 2023 года, так и из данных, предоставленных нашими преподавателями по искусственному интеллекту .
Оценка
Grok-1 оценивался по ряду контрольных задач на рассуждение и по курируемым иностранным экзаменационным вопросам по математике. Мы привлекли первых альфа-тестеров для оценки версии Grok-1, включая состязательное тестирование. Мы находимся в процессе расширения числа наших первых пользователей до закрытой бета-версии через ранний доступ Grok.
