OpenAI ma problem? Tencent wypuszcza małe, szybkie i darmowe modele AI
Tencent znów zaskakuje, tym razem prezentując cztery kompaktowe modele open-source Hunyuan, które mają być odpowiedzią na konkurencyjne i droższe rozwiązania.
Nowe modele mają realną szansę zagrozić pozycji OpenAI oraz otworzyć drzwi każdemu do świata AI, i to zupełnie za darmo.
Chiński gigant technologiczny Tencent ogłosił premierę czterech kompaktowych modeli językowych Hunyuan o wielkości 0,5B, 1,8B, 4B i 7B parametrów. Modele zostały udostępnione na zasadach open-source i mogą działać nawet taniej karcie graficznej, co czyni je idealnym rozwiązaniem dla laptopów, smartfonów i urządzeń edge.
Pomimo niewielkich rozmiarów, nowe modele Hunyuan osiągają imponujące wyniki w testach z zakresu rozumienia języka, matematyki i ogólnego rozumowania. Architektura „rozumowania hybrydowego” pozwala użytkownikom wybierać tryb szybkiego lub wolnego myślenia, dostosowując AI do różnych zadań.
Kluczową innowacją jest natywne okno kontekstowe 256K tokenów, umożliwiające analizowanie nawet 500 000 słów jednocześnie. Dzięki temu modele świetnie sprawdzają się w analizie dokumentów, transkrypcji spotkań czy pełnych książek.
Modele Hunyuan są kompatybilne z popularnymi frameworkami, takimi jak SGLang, vLLM i TensorRT-LLM, oraz oferują wsparcie dla różnych technik kwantyzacji. Wsparcie takich firm jak Arm, Qualcomm, Intel i MediaTek zapowiada ich szybkie wdrożenia na szeroką skalę.
Tencent już wdraża nowe modele w swoich usługach, m.in. WeChat Reading i Tencent Meeting. Praktyczne zastosowania, jak błyskawiczne wykrywanie spamu czy inteligentni asystenci, pokazują, że kompaktowe modele AI mogą mieć realny wpływ na codzienne życie użytkowników i być przydatne w biznesie.
