Ludzie mogą utracić kontrolę nad sztuczną inteligencją. Wyniki badań są jednoznaczne
-
Badania nad sztuczną inteligencją dały jednoznaczne wyniki
-
Naukowcy ustalili, że nie będziemy w stanie kontrolować AI
-
Ludzkość musi poważnie zastanowić się nad tym, co powinna zrobić w najbliższej przyszłości
Tym, czego ludzkość boi się najbardziej ze strony sztucznej inteligencji (AI) , jest utrata kontroli nad nią. Z jednej strony AI są tworzone po to, by były w stanie rozwiązywać problemy szybciej i skuteczniej niż ludzie. Jak również by mogły poradzić sobie z kwestiami, które stoją poza zrozumieniem człowieka. Czy będziemy mogli je wówczas kontrolować i powstrzymać przed ewentualnym zwróceniem się przeciwko ludzkości? Naukowcy są zgodni, że nie.
Rezultaty badań nad sztuczną inteligencją
Sztuczna inteligencja to algorytm. Program stworzony przez człowieka, który w założeniu ma umieć się uczyć i rozwiązywać skomplikowane zagadnienia w ułamki sekund. AI ma moc obliczeniową, która nie jest dostępna człowiekowi, gdyż zwyczajnie wykracza poza możliwości intelektualne naszego gatunku. AI w założeniu jest bytem doskonałym.
I tu pojawia się bardzo poważny problem. Ludzie doskonali nie są, a sztuczna inteligencja z założenia ma ich przewyższać, by mogli osiągać rzeczy, których nie mogą dokonać sami. W związku z tym również sama sztuczna inteligencja nigdy nie będzie dla nich w pełni zrozumiała. W efekcie oznacza to, że jej kontrolowanie będzie wykraczało poza ludzkie możliwości.
Kontrola sztucznej inteligencji
Dlaczego jest to niemożliwe? Ponieważ by wiedzieć bez żadnych wątpliwości, jak w danej sytuacji zachowa się AI, musielibyśmy stworzyć symulację sztucznej inteligencji i wystawiać ją na wszelkie możliwe sytuacje. Niestety niedoskonały umysł człowieka nie potrafi pojąć istoty wszystkich problemów, przed którymi zostanie postawiona AI, więc nie jest również w stanie stworzyć takiej symulacji.
Superinteligentna maszyna kontrolująca świat brzmi jak science-fiction. Ale już teraz są maszyny, które realizują ważne zadania niezależnie, podczas gdy ich programiści nie rozumieją do końca, w jaki sposób się tego nauczyły. - komentuje Manuel Cebrian, naukowiec z niemieckiego Instytutu Informatyki im. Maxa Plancka. - W związku z tym pojawia się pytanie, czy AI nie wymknie się spod kontroli i zagrozi ludzkości.
Ograniczenie sztucznej inteligencji
Podczas badań prowadzonych nad kwestią kontroli sztucznej inteligencji pojawił się pomysł, by ograniczyć jej dostęp do danych, które mogą sprawić, że AI obróci się przeciw ludzkości. Nauka etyki nie wchodzi w grę, gdyż nie można mieć pewności, że implementacja zasady typu „nie krzywdź człowieka” odniesie oczekiwane skutki. Już sama interpretacja słowa „krzywda” może tutaj zawieść na wielu poziomach.
Stąd też pojawił się pomysł, by ograniczyć dostęp sztucznej inteligencji do części danych zawartych w Internecie. Niestety jeden z naukowców słusznie zauważył, że kłóci się do z istotą sztucznej inteligencji. Jeśli chcemy, by osiągała to, co niemożliwe dla człowieka, stworzenie jej z ograniczeniem dostępu do wielu danych zupełnie mija się z celem.
Naukowcy są więc zgodni - niemal na pewno nie będziemy w stanie kontrolować sztucznej inteligencji. Jeśli prace nad AI będą postępowały, prawdopodobnie nawet nie będziemy w stanie zorientować się, kiedy sztuczna inteligencja osiągnie poziom, który będzie już poza naszą kontrolą, gdyż człowiek zwyczajnie nie będzie w stanie tego pojąć. A skoro tak, ludzkość powinna zadać sobie kilka ważnych pytań na temat kierunku, w którym obecnie zmierza.
Artykuły polecane przez redakcję Techgame:
-
Założyciel CD Projekt opowiada o dniu premiery Cyberpunka 2077. Firma chce odzyskać zaufanie graczy
-
Złe wieści dla fanów Harry’ego Pottera. Premiera Hogwarts Legacy została przełożona
-
Mężczyzna zapomniał hasła do portfela z bitcoinami. Ma w nim niemal 900 milionów złotych
tech
