Microsoft nedávno aktualizoval své obchodní podmínky, aby jasně zakázal používání své služby Azure OpenAI Service, která zahrnuje technologie OpenAI, pro rozpoznávání obličejů americkými policejními odděleními. Toto omezení se vztahuje na jakékoliv integrace s Azure OpenAI Service, včetně současných i budoucích modelů pro analýzu obrazu od OpenAI.
Zákaz používání služby pro rozpoznávání obličejů platí pouze v USA. Nejedná se o celkový zákaz využívání služby policejními odděleními. Tento zákaz nezahrnuje rozpoznávání obličejů pomocí stacionárních kamer v kontrolovaných prostředích, jako jsou zadní kanceláře, ačkoli použití jakékoliv technologie rozpoznávání obličejů americkými policejními odděleními je zakázáno.
Využití v armádě
Tento krok následuje týden po oznámení společnosti Axon, výrobce technologických a zbraňových produktů pro vojenské a policejní účely, o novém produktu využívajícím model generativního textu GPT-4 od OpenAI pro sumarizaci zvukových záznamů z tělových kamer. Kritici upozornili na možné nedostatky, jako jsou vymyšlené fakty a rasové předsudky, které mohou být do modelu zaneseny z datových sad.
Je nejasné, zda Axon používal GPT-4 prostřednictvím služby Azure OpenAI Service a zda byla změna politiky reakcí na uvedení produktu společnosti Axon na trh. Předtím OpenAI omezovalo používání svých modelů pro rozpoznávání obličejů prostřednictvím svých API.
Obrázek 1 – DALL-E 3: Kamera
Opravdu je technologie rozpoznávání obličejů tak bezpečná?
Implementace technologie rozpoznávání obličejů (facial recognition) nabízí řadu výhod, které mohou zlepšit efektivitu a bezpečnost v mnoha oblastech. V bezpečnostních systémech umožňuje rychlou a přesnou identifikaci osob, což je klíčové pro odhalení potenciálních hrozeb a prevenci kriminality. V komerčním sektoru může tato technologie zefektivnit procesy jako je check-in na letištích nebo personalizace zákaznického servisu, čímž zvyšuje spokojenost zákazníků a streamline operací.
Na druhé straně, rozpoznávání obličejů přináší i významná úskalí, zejména co se týče ochrany soukromí a etických otázek. Obavy z nadměrného dohledu a zneužití osobních údajů jsou stále významnější, zejména když data mohou být nesprávně zpracována nebo nezákonně sdílena. Navíc, chyby v algoritmech mohou vést k nesprávné identifikaci, což má vážné sociální a právní důsledky, obzvlášť u menšinových skupin, které mohou být nesprávně profilovány.
Technologie rozpoznávání obličejů má řadu benefitů i úskalí. V praxi se jedná o nástroj, který může být využit jak k dobrým, tak špatným účelům. Naším cílem by měla být první možnost, kdy by se technologie dala využití pro snížení kriminality a zajištění bezpečnosti ve velkých městských metropolích. Bohužel v nedemokratických systém, jako je například Čína, může být technologie využita pro špehování a získávání dat o jednotlivých občanech. To pochopitelně velmi narušuje soukromí a vytváří sociální napětí v podobě neustálého pocitu, že vás někdo sleduje – velmi podobné scénáři popsaném Georgem Orwellem v knize 1984. To jak se AI bezpečnostní a armádní systémy budou vyvíjet do budoucna bude záviset ale především na nás.
Zdroj:
- Wiggers, K. (2024, May 3). Microsoft bans US police departments from using enterprise AI tool for facial recognition. TechCrunch. https://techcrunch.com/2024/05/02/microsoft-bans-u-s-police-departments-azure-openai-facial-recognition/
