Владелец Facebook, компания Meta Platforms, открыла доступ к большой языковой модели для исследований искусственного интеллекта.
Open Pretrained Transformer имеет 175 миллиардов параметров, что соответствует коммерческим языковым моделям, таким как GPT-3 OpenAI. Эти типы систем предоставили разработчикам возможности для использования, такие как автоматический копирайтинг, модерация контента или даже кодирование.
Нейросетевые языковые модели — это большие нейронные сети, которые обучаются предсказывать следующее слово или часть слова в тексте с учетом предыдущего контекста.
Код для небольших предварительно обученных моделей Meta можно найти здесь.
