Thomas Le Bonniec mówi o sobie, iż jeszcze w ubiegłym roku pracował dla Apple’a zakontraktowany przez zewnętrzną firmę.  Do jego zadań należało odsłuchiwanie fragmentów nagrań głosów użytkowników wirtualnego asystenta Siri celem ulepszania tej usługi. Le Bonniec skontaktował się z nami, aby opowiedzieć o tym, co jego zdaniem stanowi dowód na zaniechania Apple’a w zakresie ochrony prywatności użytkowników w procesie analizy nagrań z Siri. Jak twierdzi – w czasie swojej pracy dla koncernu przekonał się, że firma nie dba o prywatność w ogóle, a ilość nagrywanych i analizowanych próbek głosowych przekracza najśmielsze spekulacje.

W treści oświadczenia, które Le Bonniec dziś rano upublicznił i przekazał m.in. organom ochrony danych osobowych Unii Europejskiej oraz amerykańskiej Federalnej Komisji Handlu, czytamy iż sygnalista pracował dla Apple’a w irlandzkim Cork od maja do lipca ubiegłego roku w ramach pośrednictwa agencji Globe Tech Services. Jego zadaniem była analiza nagrań głosowych użytkowników korzystających z inteligentnego asystenta Siri, np. celem określania, czy asystent aktywuje się we właściwych momentach, wywoływany określoną komendą głosową. Jak podkreśla Le Bonniec, użytkownicy urządzeń Apple’a nie byli świadomi, że nagrania ich głosu są gromadzone i przekazywane do analizy przez zatrudnianych w ramach pośrednictwa pracy współpracowników takich jak on.

Nie tylko użytkownicy – nagrywane było całe otoczenie

Jak zwraca uwagę sygnalista, analizowane przez niego podczas pracy próbki głosu należały nie tylko do użytkowników gadżetów kalifornijskiego koncernu, ale również do ich bliskich czy znajomych – nagrywane było bowiem całe otoczenie osób korzystających z urządzeń Apple’a. „System nagrywał wszystko: rozmowy na temat nowotworów, seksualności, religii, pornografii, polityki czy zmarłych krewnych. Słychać było również rozmowy dotyczące szkoły, związków lub nawet narkotyków – i żaden z użytkowników nie chciał zapewne, by były one nagrywane przez Siri” – czytamy w oświadczeniu Le Bonnieca, który przyznaje, że ujawniając publicznie te informacje łamie klauzulę tajności, jaką podpisywał podejmując współpracę z firmą.

[quote side=”left” text=”Martwi mnie, że wielkie firmy technologiczne po prostu podsłuchują ogromną część populacji w Europie, mimo tego, że mieszkańcom Unii Europejskiej mówi się, iż obejmują ich jedne z najsilniejszych mechanizmów prawnych ochrony danych osobowych na świecie – mówi Le Bonniec”]

Analiza wypowiedzi pod kątem słów kluczowych

Le Bonniec pisze, że oprócz analizy mającej na celu usprawnianie działania Siri jego koledzy byli zatrudniani jeszcze w innych celach – przy tzw. projekcie „Development data”. Grupa współpracowników oddelegowanych do tego zadania miała „tagować poszczególne słowa i przyporządkowywać je do danych użytkowników takich jak kontakty w telefonie, lokalizacja bądź słuchana muzyka”. Według sygnalisty osoby pracujące przy tym projekcie dysponowały dostępem do danych osobowych użytkowników urządzeń Apple gromadzonych na masową skalę m.in. z aplikacji map, biblioteki muzycznej, listy kontaktów zapisanych w telefonie i innych źródeł. Dane te były następnie łączone z komendami wywoływanymi przez Siri. Jak sugeruje Le Bonniec, istnieje możliwość, że informacje te były wykorzystywane przez Apple również w innych celach.

Le Bonniec: tu nie ma miejsca na ochronę prywatności

Były współpracownik Apple’a bije na alarm i twierdzi, że wszystko, co zobaczył podczas pracy dla koncernu stoi w sprzeczności z głoszonymi przez Apple tezami, jakoby firma koncentrowała się na ochronie prywatności użytkowników. Jak podkreśla, celem ujawnienia przez niego informacji na temat tego, jak wyglądała analiza nagrań dźwiękowych pozyskiwanych przez Siri jest zwrócenie uwagi organów ochrony danych osobowych na praktyki firmy Tima Cooka i zmuszenie jej do podjęcia stosownych działań, mających na celu zagwarantowanie użytkownikom właściwej ochrony.

„Ludzie rozmawiają z Siri codziennie, oszukiwani, że jest to przyjazna im sztuczna inteligencja” – pisze Le Bonniec. „W rzeczywistości tak nie jest – Siri może zachowywać się jak szpieg, którego zdolność do odpowiedzi i interakcji jest zależna od milionów wcześniej wysłuchanych nagrań, analizowanych i poprawianych przez ludzi” – dodaje. „W przeciwieństwie do tego, co wydaje się wielu użytkownikom, to również ludzie są odpowiedzialni za tagowanie poszczególnych słów i przyporządkowywanie ich do komend głosowych rozumianych przez Siri” – twierdzi sygnalista.

Apple nic nie robi, by chronić prywatność

Le Bonniec w swoim oświadczeniu przywołuje ogłoszenie koncernu z dnia 28 sierpnia 2019, kiedy to po wybuchu światowego skandalu z udziałem m.in. Apple’a, Google’a i Amazona firma zapowiedziała, iż zacznie lepiej chronić prywatność użytkowników w kontekście analizy nagrań z Siri. Zdaniem sygnalisty koncern tym samym przyznał, że używał nielegalnie pozyskiwanych nagrań do ulepszania swoich produktów. Co więcej, od tego czasu nikt nie zweryfikował, czy istotnie Apple podjęło działania zmierzające do zmiany stosowanych poprzednio procedur przetwarzania pozyskiwanych z asystentów nagrań i danych osobowych.

[quote side=”right” text=”Każda z nagranych osób, jako obywatel i jako użytkownik, powinna mieć prawo dowiedzieć się od Apple’a kiedy i w jaki sposób pozyskane zostały ich próbki głosowe – twierdzi sygnalista”]

„Działam w interesie publicznym”

Le Bonniec przekazał nam to, co podkreślił w treści swojego oświadczenia – że ujawnianie informacji przez niego posiadanych ma na celu ochronę interesu użytkowników produktów Apple’a oraz innych wielkich firm technologicznych, które również w zakresie swoich działań nie podlegają żadnemu nadzorowi. Jak zaznaczył, nie jest jedynym sygnalistą, którzy mówili głośno o nieprawidłowościach w Apple’u i innych wielkich firmach.

„Wzywam organy ochrony danych osobowych wyznaczone do obrony fundamentalnych w Unii Europejskiej praw do podjęcia działań i przeprowadzenia audytu przeszłych i obecnych praktyk Apple’a oraz innych firm stosujących podobne metody. Ich celem powinno być zatrzymanie realizacji tych programów, ujawnienie tego, jakie dane zostały przechwycone i zgromadzone przez koncerny, a także analiza sposobów i celów, do jakich miały one posłużyć” – napisał w swoim oświadczeniu Le Bonniec. Wezwał również organy do tego, aby nie wahały się użyć narzędzi takich, jak kary finansowe przeciwko wielkim koncernom – „jeśli tylko mogą one pomóc powstrzymać je przed takimi działaniami w przyszłości”.

Poniżej zamieszczamy całość oświadczenia Thomasa Le Bonnieca:

Public Statement Siri Recor… by Gosia Fraser on Scribd

Ten tekst jest publikowany na licencji CC BY ND