Microsoft ogłosił wczoraj (23) rodzinę Phi-3, nowe kompaktowe modele językowe (SLM). Platforma składa się z trzech różnych opcji sztucznej inteligencji, z których każda spełnia określone potrzeby w zakresie wydajności i wydajności.
Pierwszym w zestawie jest Phi-3-minimodel języka z 3,8 miliarda parametrów wyszkolonych w mniejszej bazie danych niż więksi konkurenci, tacy jak GPT-4. Dostępny jest w dwóch wariantach, jeden z obsługą 4000 i drugi na 128 000 tokenów, a jego instrukcja jest ulepszona, dzięki czemu jest praktycznie kompletna do użycia.
W tym momencie Phi-3-mini zostanie wydany na Microsoft Azure AI Studio, Hugging Face i Ollama. Narzędzie zostało zoptymalizowane pod kątem środowiska wykonawczego ONNX, z obsługą Windows DirectML i będzie również dostępne jako mikrousługa w Nvidia NIM.
Pozostałe modele z rodziny Phi-3 to Phi-3-small (7 miliardów parametrów) i Phi-3-medium (14 miliardów parametrów). Obydwa są zbudowane zgodnie ze standardem odpowiedzialności za sztuczną inteligencję firmy Microsoft, ale dane dotyczące ich wydajności i zastosowania nie zostały ujawnione. Zostaną one udostępnione w ciągu najbliższych kilku tygodni w katalogu Azure AI.
Aplikacje o małych rozmiarach
W przeciwieństwie do szerokich modeli językowych (LLM) — na przykład GPT-4.0 i Gemini — SLM są przygotowane do zastosowań o niższych wymaganiach dotyczących danych i szkoleńtakie jak lokalne narzędzia do przetwarzania. Te platformy można osadzić w smartfonach i komputerach na przykład z dedykowanym sprzętem do akceleracji AI.
Naturalnie im bliżej „pełnowymiarowej” sztucznej inteligencji, tym lepiej — i taką jest propozycja Microsoftu w przypadku tych SLM. Zdaniem firmy rodzina Phi-3 przewyższa konkurencję w tej samej kategorii i jest lepsza od niektórych programów LLM w niektórych kontekstach, takich jak interpretacja języka, przetwarzanie kontekstu i programowanie.
