Amazon zabronił policji korzystania ze swojej technologii identyfikacji twarzy
Amazon i IBM starają się nie dopuścić, aby ich technologie identyfikujące twarze były wykorzystywane przez służby mundurowe w nieetycznych celach.
IBM wstrzymał swoje prace
IBM już wcześniej poinformował, że zaprzestaje prac nad rozwijaniem swojej technologii identyfikującej twarze. Firma obawia się, że wykorzystywanie takich narzędzi przez policję może być nieetyczne, ale przede wszystkim nader eksploatowane. Wcale może się to nie przyczynić do sprawniejszego działania policji, a jedynie dać policjantom kolejne narzędzi kontroli obywateli. Postanowienie IBM wynika z protestów po śmierci afroamerykanina George'a Floyda, jednak firma zapewnia, że taka decyzja zapadła już wcześniej. IBM uważa, że policja mogłaby używać takiej technologii do tzw. "profilowania rasowego", czyli wspieraniu rasizmu i pogłębnianiu konfliktów na tle rasowym bądź etnicznym. Jak donosi Reuters, firma przestaje oferować kupno takiej technologii, jednak nie porzuca dotychczasowych klientów, zamiast tego zacznie rozwijać technologię rozpoznawania obiektów.
Amazon podziela zdanie IBM
Amazon od wielu lat także rozwija własną technologię nazwaną Rekognition, w wielu aspektach podobną do tej z IBM. Gigant zdaje się popierać decyzję IBM, jednak Amazon zamiast porzucić technologię całkowicie, wprowadza na nią roczne moratorium. "Mamy nadzieję, że to roczne moratorium da Kongresowi USA wystarczająco dużo czasu na wdrożenie odpowiednich regulacji zapewniających etyczne wykorzystanie tej technologii" - napisano w komunikacie firmy. WIelu ekspertów z dziedziny prywatności zauważa, że policja mogłaby korzystać z nowego rodzaju profilowania w sposób niezgodny etycznie. Mogłoby się to przyczynić do pogłębienia konfliktów na tle rasowym, niesprawiedliwych aresztowań, szczególnie w takim czasie, jak odbywające się w USA protesty.
Czy profilowanie twarzy jest etyczne?
Z pewnością taka technologia mogłaby przysłużyć się policji w znacznym stopniu, o ile oczywiście działałby dobrze. Technicy już wielokrotnie alarmowali, że AI ma problemy z rozpoznawaniem osób o ciemniejszej karnacji, a niektóre osoby z innych ras mogą przez komputer być zupełnie błędne zinterpretowane. IBM wezwał Kongres do wprowadzenia zmian na tym polu na poziomie federalnym. Ma ona nadzieję, że przyczyni się to do egzekwowania niesprawiedliwości policji.
