Były główny naukowiec ds. sztucznej inteligencji w Wielkiej Brytanii ostrzega, że istnieje 50-procentowe prawdopodobieństwo, że superinteligencja zniszczy ludzkość

Czołowy naukowiec zajmujący się sztuczną inteligencją ostrzegł, że stworzenie superinteligentnej sztucznej inteligencji może stanowić zagrożenie egzystencjalne dla ludzkości.

Geoffrey Irving, były główny naukowiec w brytyjskim rządowym Instytucie Bezpieczeństwa Sztucznej Inteligencji, uważa, że teoretycznie możliwe jest stworzenie systemów sztucznej inteligencji, które pozostaną zgodne z intencjami ludzi. Coraz bardziej niepokoi go jednak fakt, że szybkie tempo rozwoju sztucznej inteligencji przewyższa nasze możliwości zapewnienia bezpieczeństwa tych systemów.

Irving już wcześniej ostrzegał, że możliwości sztucznej inteligencji rozwijają się znacznie szybciej niż nasza wiedza na temat tego, jak kontrolować i zabezpieczać coraz potężniejsze systemy, co zwiększa ryzyko, że ludzkość może ostatecznie stracić nad nimi kontrolę.

W ostrym ostrzeżeniu opublikowanym dzisiaj na platformie X Irving oszacował, że istnieje około 50-procentowe prawdopodobieństwo, iż superinteligencja może ostatecznie doprowadzić do wyginięcia ludzkości, przy czym wiele kluczowych decyzji zostanie prawdopodobnie podjętych w ciągu najbliższych kilku lat lub dekady.

I think we have a ~50% chance of all dying as a result of superintelligence, mostly due to actions in the next few to 10 years. I don't expect to have that resolved to below 10% or above 90% before we either make it through, or we don't.

We will have to act despite uncertainty.
— Geoffrey Irving (@geoffreyirving) September 10, 2026

Napisał: „Myślę, że mamy około 50% szans na to, że wszyscy zginiemy z powodu superinteligencji, głównie z powodu działań, które zostaną podjęte w ciągu najbliższych kilku do 10 lat”.

Irving dodał, że nie spodziewa się, aby naukowcom udało się zmniejszyć tę niepewność poniżej 10% lub powyżej 90%, zanim ludzkość albo z powodzeniem poradzi sobie z tym ryzykiem, albo tego nie zrobi.

„Będziemy musieli działać pomimo niepewności” – ostrzegł.

„Daily Express” podał: Zapytany, w jaki sposób doszedł do tej wartości procentowej, naukowiec wyjaśnił, że od lat przyjmował przedział 10–90%, a obecnie uważa średnią z tego przedziału za „uczciwą” odpowiedź.

Odpowiedział: „Jeśli chodzi o to, dlaczego 50% – mimo że zastanawiałem się nad tym od lat, nadal uważam, że istnieje ogromna niepewność modelowa różnego rodzaju, i kilka lat temu doszedłem do wniosku, że przedział wynosi »10–90%«, ale nie czuję się pewny w obrębie tego przedziału. Wtedy zdałem sobie sprawę, że uczciwym posunięciem jest po prostu przyjęcie średniej”.

Irving, który wcześniej pracował w DeepMind, OpenAI i Google Brain, wyjaśnił swoją decyzję o przejściu do rządowej agencji AISI, stwierdzając: „Obawiam się, że postępy w zakresie bezpieczeństwa są zbyt powolne w porównaniu z tempem rozwoju sztucznej inteligencji”.

Dodał: „Większość pracowników i kierownictwa laboratoriów zajmujących się sztuczną inteligencją ma dobre intencje, ale siły rynkowe powodują, że istnieje ciągła presja, by przedkładać szybkość nad ostrożność”.

W ciągu ostatnich pięciu lat sztuczna inteligencja rozwinęła się w naprawdę spektakularny sposób. Systemy coraz lepiej potrafią rozumować, tworzyć i wykonywać wieloetapowe zadania.

Jeśli weźmiemy na przykład pisanie, modele przeszły od generowania dość prostych tekstów do pisania esejów, kodowania, tłumaczenia i prowadzenia spójnych rozmów.

Inni „eksperci” również przedstawili podobne apokaliptyczne prognozy.