Techgame.pl
Sztuczna inteligencja

Pixabay.com

Ludzie mogą utracić kontrolę nad sztuczną inteligencją. Wyniki badań są jednoznaczne

14 Stycznia 2021

Autor tekstu:

Gabriela Sicińska

Udostępnij:

Nad pytaniem, czy będziemy w stanie kontrolować sztuczną inteligencję, naukowcy pochylają się już od kilkudziesięciu lat. Zdania były przeróżne, a filmów science-fiction, które zapowiadają bunt maszyn, jeszcze więcej. Czy w fikcji moż

  • Badania nad sztuczną inteligencją dały jednoznaczne wyniki

  • Naukowcy ustalili, że nie będziemy w stanie kontrolować AI

  • Ludzkość musi poważnie zastanowić się nad tym, co powinna zrobić w najbliższej przyszłości

Tym, czego ludzkość boi się najbardziej ze strony sztucznej inteligencji (AI), jest utrata kontroli nad nią. Z jednej strony AI są tworzone po to, by były w stanie rozwiązywać problemy szybciej i skuteczniej niż ludzie. Jak również by mogły poradzić sobie z kwestiami, które stoją poza zrozumieniem człowieka. Czy będziemy mogli je wówczas kontrolować i powstrzymać przed ewentualnym zwróceniem się przeciwko ludzkości? Naukowcy są zgodni, że nie.

Rezultaty badań nad sztuczną inteligencją

Sztuczna inteligencja to algorytm. Program stworzony przez człowieka, który w założeniu ma umieć się uczyć i rozwiązywać skomplikowane zagadnienia w ułamki sekund. AI ma moc obliczeniową, która nie jest dostępna człowiekowi, gdyż zwyczajnie wykracza poza możliwości intelektualne naszego gatunku. AI w założeniu jest bytem doskonałym.

I tu pojawia się bardzo poważny problem. Ludzie doskonali nie są, a sztuczna inteligencja z założenia ma ich przewyższać, by mogli osiągać rzeczy, których nie mogą dokonać sami. W związku z tym również sama sztuczna inteligencja nigdy nie będzie dla nich w pełni zrozumiała. W efekcie oznacza to, że jej kontrolowanie będzie wykraczało poza ludzkie możliwości.

Kontrola sztucznej inteligencji

Dlaczego jest to niemożliwe? Ponieważ by wiedzieć bez żadnych wątpliwości, jak w danej sytuacji zachowa się AI, musielibyśmy stworzyć symulację sztucznej inteligencji i wystawiać ją na wszelkie możliwe sytuacje. Niestety niedoskonały umysł człowieka nie potrafi pojąć istoty wszystkich problemów, przed którymi zostanie postawiona AI, więc nie jest również w stanie stworzyć takiej symulacji.

Superinteligentna maszyna kontrolująca świat brzmi jak science-fiction. Ale już teraz są maszyny, które realizują ważne zadania niezależnie, podczas gdy ich programiści nie rozumieją do końca, w jaki sposób się tego nauczyły. - komentuje Manuel Cebrian, naukowiec z niemieckiego Instytutu Informatyki im. Maxa Plancka. - W związku z tym pojawia się pytanie, czy AI nie wymknie się spod kontroli i zagrozi ludzkości.

Ograniczenie sztucznej inteligencji

Podczas badań prowadzonych nad kwestią kontroli sztucznej inteligencji pojawił się pomysł, by ograniczyć jej dostęp do danych, które mogą sprawić, że AI obróci się przeciw ludzkości. Nauka etyki nie wchodzi w grę, gdyż nie można mieć pewności, że implementacja zasady typu „nie krzywdź człowieka” odniesie oczekiwane skutki. Już sama interpretacja słowa „krzywda” może tutaj zawieść na wielu poziomach.

Stąd też pojawił się pomysł, by ograniczyć dostęp sztucznej inteligencji do części danych zawartych w Internecie. Niestety jeden z naukowców słusznie zauważył, że kłóci się do z istotą sztucznej inteligencji. Jeśli chcemy, by osiągała to, co niemożliwe dla człowieka, stworzenie jej z ograniczeniem dostępu do wielu danych zupełnie mija się z celem.

Naukowcy są więc zgodni - niemal na pewno nie będziemy w stanie kontrolować sztucznej inteligencji. Jeśli prace nad AI będą postępowały, prawdopodobnie nawet nie będziemy w stanie zorientować się, kiedy sztuczna inteligencja osiągnie poziom, który będzie już poza naszą kontrolą, gdyż człowiek zwyczajnie nie będzie w stanie tego pojąć. A skoro tak, ludzkość powinna zadać sobie kilka ważnych pytań na temat kierunku, w którym obecnie zmierza.

Artykuły polecane przez redakcję Techgame:

tech

Podobne artykuły

Merkury na tle Słońca.

Nauka

Najdoskonalsze zdjęcia Słońca. Niewyobrażalne dokonanie nowego teleskopu

Czytaj więcej >
Uran z zaznaczonymi promieniami X

Nauka

Naukowcy odkryli promieniowanie X emitowane przez Uran. Wszystko dzięki zdjęciu sprzed lat

Czytaj więcej >
antonow an 225

Nauka

Artykuły medyczne do Polski dostarczy największy samolot świata. Będzie transmisja z lądowania Antonowa An-225

Czytaj więcej >
Michael

Nauka

Oto model gracza z przyszłości - Michael. Badacze zachęcają do robienia regularnych przerw w graniu

Czytaj więcej >
Zdjęcie Jowisza NASA

Nauka

Jowisz wygląda pięknie. NASA pokazała zapierające dech w piersi zdjęcie

Czytaj więcej >
Spadające gwiazdy

Nauka

Spadające gwiazdy z konstelacji Lutni już od dziś widoczne na nocnym niebie. Kosmiczny spektakl potrwa aż 10 dni

Czytaj więcej >