Jak zatrzymać sztuczną inteligencję przed zagładą ludzkości? Naukowcy proponują „przycisk awaryjny”

Technologie
1790V
OpenAI
Łukasz Musialik | 20.02, 20:45

Sztuczna inteligencja to technologia, która niesie za sobą wiele zalet, ale też i potencjalnych zagrożeń. Co jeśli AI wymknie się spod kontroli i zechce zniszczyć ludzkość, jak w filmie „Terminator"? Czy istnieje sposób, aby zapobiec takiej sytuacji? Naukowcy z kilku uczelni mają na to pomysł: „przycisk awaryjny” i „blokadę zdalną” wbudowany w sprzęt, który używa AI.

Pomysł na wyłączenie AI w ten sposób został zaczerpnięty z raportu z Uniwersytetu Cambridge, w którym uczestniczyli także eksperci z Oxford Internet Institute i Georgetown University, a także z organizacji OpenAI, która zajmuje się tworzeniem i badaniem możliwości sztucznej inteligencji.

Dalsza część tekstu pod wideo

Raport ten zawiera wiele propozycji dotyczących regulacji i kontroli AI, w tym pomysł, aby modyfikować układy scalone używane do obliczeń, tak aby mogły być zdalnie sprawdzane i wyłączane przez regulatorów. Na przykład, układ scalony mógłby wymagać cyfrowego certyfikatu, który musiałby być odnawiany co jakiś czas, a jeśli certyfikat byłby nieważny lub wygasłby, układ scalony mógłby być zablokowany lub ograniczony w działaniu.

Taki system miałby na celu zapewnić, że AI jest używana w legalny i bezpieczny sposób, i że można ją zatrzymać, jeśli zacznie działać niezgodnie z oczekiwaniami lub zagrażać ludziom. Raport podaje też inne pomysły, takie jak surowsze przepisy dotyczące sprzedaży i eksportu sprzętu dostosowanego do potrzeb AI, czy wymóg zgody kilku regulatorów przed uruchomieniem niektórych zadań sztucznej inteligencji.

Sztuczna inteligencja to technologia, która rozwija się bardzo szybko i ma wiele zastosowań. Jednak trzeba też pamiętać o ryzyku i odpowiedzialności. Przycisk awaryjny i zdalna blokada to jedne ze sposobów, które mogą zapewnić bezpieczeństwo oraz sprawić, aby AI służyła dla dobra ludzkości, a nie jej zguby.

Źródło: pcgamer.com

Komentarze (37)

SORTUJ OD: Najnowszych / Najstarszych / Popularnych

cropper