Satya Nadella ostrzega przed AI. Domaga się przycisku awaryjnego dla sztucznej inteligencji

Satya Nadella, szef Microsoftu, zwraca uwagę na zagrożenia związane z rozwojem sztucznej inteligencji. W jego ocenie coraz bardziej autonomiczne modele potrzebują skuteczniejszych zabezpieczeń, stałego nadzoru człowieka i możliwości natychmiastowego przerwania ich działania.

Kluczowe ma być stworzenie systemu, który pozwoli kontrolować AI nawet wtedy, gdy samodzielnie wykonuje ważne operacje.

Satya Nadella poruszył ten temat w serwisie X, wskazując, że współczesne systemy AI otrzymują dostęp do poufnych danych i mogą podejmować działania w imieniu użytkowników oraz firm. Jego zdaniem nie wystarczy zaakceptować rekomendacji modelu lub zaufać zapewnieniom jego twórców. Odpowiedzialność za skutki działania sztucznej inteligencji nadal spoczywa na ludziach.

Szef Microsoftu postuluje budowę systemów, które pozwolą obserwować zachowanie modeli, ograniczać ich możliwości i dokładnie odtwarzać wykonane przez nie operacje. Ważne ma być również sprawdzanie, czy AI przestrzega narzuconych jej zasad. Kontrola nie powinna zależeć wyłącznie od samego modelu, ponieważ utrudniałoby to niezależną ocenę jego działań.

Jednym z najważniejszych zabezpieczeń ma być możliwość natychmiastowego zatrzymania lub zawieszenia działania AI przez upoważnioną osobę. Taki mechanizm byłby szczególnie istotny w przypadku autonomicznych agentów, które mogą wykonywać kolejne zadania bez konieczności zatwierdzania każdego kroku przez człowieka.

Satya Nadella zwraca również uwagę na potrzebę większej przejrzystości i szybkiego zgłaszania incydentów. Jego wypowiedź wpisuje się w szerszą dyskusję o bezpieczeństwie coraz potężniejszych systemów AI. Rozwój tej technologii nie oznacza bowiem, że można zrezygnować z nadzoru. Przeciwnie, im większe uprawnienia otrzymują modele, tym ważniejsze staje się zapewnienie ludziom realnej możliwości kontrolowania ich działań.