Microsoft wypuścił niewielki model AI, który robi więcej niż GPT-4o. Bezpieczny, darmowy i działa offline
Microsoft zaprezentował Fara-7B będącym kompaktowym modelem AI z zaledwie 7 miliardami parametrów, działającym bezpośrednio na komputerze użytkownika.
Ten mały model dodatkowo jest w stanie zautomatyzować niektóre zadania przez kontrolę myszy i klawiatury.
W przeciwieństwie do chmurowych gigantów, Fara-7B przetwarza wszystko lokalnie, co oznacza pełną prywatność danych użytkownika.
W testach benchmark WebVoyager model osiągnął 73,5% skuteczności, podczas gdy GPT-4o uzyskał tylko 65,1%. To bardzo ważny moment zarówno dla użytkowników, jak i samego Microsoftu, ponieważ jak się okazuje mniejszy, prostszy i mniej zasobożerny model pokonał potężniejszą konkurencję, wykonując zadania średnio w 16 krokach, gdy inne modele potrzebowały na to aż 41.
Fara-7B bazuje na Qwen2.5-VL-7B i został wytrenowany na 145 603 zweryfikowanych trajektoriach przeglądarki wygenerowanych przez system Magentic-On. Model analizuje strony wyłącznie przez zrzuty ekranu i bez dostępu do ich kodu źródłowego.
Kluczową funkcją są tzw. Critical Points. System automatycznie zatrzymuje się przed wykonaniem wrażliwych akcji, jak wysłanie e-maila czy transakcja finansowa, prosząc uprzednio o zgodę użytkownika.
Microsoft podkreśla jednak, że to wciąż model eksperymentalny, najlepszy do projektów pilotażowych, a nie produkcyjnych. Fara-7B można pobrać za darmo z GitHub lub Hugging Face, a wkrótce na rynek trafić ma zoptymalizowana wersja dla Copilot+ PC z Windows 11.
