Na urządzeniach z Androidem ma pojawić się nowe zabezpieczenie. Google chce wykorzystać sztuczną inteligencję, aby skuteczniej wykrywać oszustwa. AI ma analizować kontekst wiadomości i połączeń, co pozwoli na wychwycenie manipulacji nawet wtedy, gdy jeszcze nie pojawił się podejrzany link ani charakterystyczne sformułowanie.
Wątpliwości budzi jednak to, że część bardziej złożonych analiz ma odbywać się w chmurze. Kto więc będzie miał dostęp do prywatnych rozmów użytkowników? Google zapewnia, że taka zaawansowana ochrona będzie opcjonalna i uruchamiana za zgodą właściciela telefonu.
Oszuści coraz rzadziej muszą polegać na wiadomościach pełnych błędów czy łatwych do rozpoznania podejrzanych adresach. Mogą prowadzić zwyczajnie wyglądającą rozmowę, stopniowo budować zaufanie, a następnie poprosić np. o przelew lub udostępnienie ekranu.
Jeszcze trudniej rozpoznać atak, gdy przestępca przejmie konto znajomej osoby. Wiadomość może wtedy nadejść z właściwego profilu, być napisana znajomym językiem i zawierać informacje, które nie wzbudzają podejrzeń.
AI ma czytać między wierszami
Google rozszerza zabezpieczenia Androida właśnie z myślą o takich scenariuszach. Sztuczna inteligencja ma oceniać szerszy kontekst rozmowy, zamiast szukać jedynie pojedynczych podejrzanych zwrotów lub niebezpiecznych linków. Obecne systemy wykrywają już ponad 5 mln podejrzanych połączeń i wiadomości miesięcznie. Nowe mechanizmy mają pozwolić na rozpoznawanie bardziej wyrafinowanych prób wyłudzenia.
To istotna zmiana w sposobie działania ochrony. Jeśli oszust przez kilka wiadomości zachowuje się wiarygodnie, dopiero zestawienie kolejnych elementów rozmowy może ujawnić, że prośba o pieniądze lub dane jest częścią manipulacji.
– Nowe mechanizmy ochrony to krok w dobrym kierunku, szczególnie dla osób, które nie zawsze potrafią rozpoznać próbę oszustwa. AI może wychwycić sygnały manipulacji nawet wtedy, gdy pojedyncza wiadomość nie wygląda podejrzanie. Dobrym przykładem jest przejęte konto znajomego, z którego przestępca prosi o pieniądze. Jednocześnie warto zwrócić uwagę na kwestię prywatności. Jeśli system analizuje kontekst rozmowy, użytkownik powinien wiedzieć, jakie informacje są wykorzystywane i gdzie odbywa się ich przetwarzanie – komentuje Kamil Sadkowski, analityk cyberzagrożeń ESET.
Skuteczniejsza ochrona potrzebuje więcej danych
Większe możliwości AI mają jednak swoją drugą stronę. Żeby system rozumiał kontekst, musi przetwarzać więcej informacji niż zabezpieczenie sprawdzające np. sam adres strony internetowej.
W przypadku części nowych funkcji analiza będzie mogła odbywać się w chmurze, a więc poza samym telefonem użytkownika. ESET zwraca uwagę, że właśnie tutaj pojawiają się pytania o prywatność. Jak dużego fragmentu rozmowy potrzebuje AI do analizy? Jak długo będą przetwarzane takie informacje? Jaką kontrolę będzie miał właściciel urządzenia?
Sprawa staje się szczególnie wrażliwa, gdy rozmowa dotyczy finansów, pracy albo życia osobistego. Skuteczniejsze wykrywanie oszustw wymaga bowiem rozpoznania sytuacji, w której pada np. prośba o pieniądze, ale jednocześnie system może mieć dostęp do szerszego kontekstu komunikacji.
Google odpowiada: Private AI Compute
Google deklaruje, że analizę w chmurze przeprowadzi w specjalnie zabezpieczonym środowisku Private AI Compute. Ma ono chronić poufność przetwarzanych informacji. Według zapewnień firmy dane mają być zaszyfrowane oraz zabezpieczone przed nieuprawnionym dostępem. Zaawansowana ochrona nie będzie też obowiązkowa – użytkownik będzie musiał wyrazić zgodę na jej uruchomienie.
Nie odpowiada to jednak na wszystkie pytania dotyczące sposobu przetwarzania danych.
– Warto jednak spojrzeć także na drugą stronę medalu. Google zapowiada, że w przypadku bardziej złożonych oszustw część analizy będzie odbywać się w chmurze. Oznacza to, że nie wszystkie informacje będą przetwarzane wyłącznie na naszym telefonie. Google zapewnia, że dane pozostaną zaszyfrowane i chronione przed nieuprawnionym dostępem, również ze strony samej firmy. Nadal jednak zasadne są pytania o to, jak duży fragment rozmowy jest potrzebny do takiej analizy, jak długo informacje są przetwarzane i jakie mechanizmy gwarantują ich poufność – mówi Kamil Sadkowski.
Analityk dodaje, że użytkownicy powinni otrzymywać jasne informacje o działaniu zabezpieczeń i zachowywać kontrolę nad swoimi danymi. Nie chodzi więc o wybór między prywatnością a ochroną przed oszustwem, lecz o sposób zaprojektowania systemu, który ma pogodzić oba cele.
Nowe funkcje nie trafią od razu do wszystkich
Google zamierza wdrażać nowe zabezpieczenia stopniowo. Nie wszyscy użytkownicy Androida otrzymają je więc w tym samym czasie.
Rozwiązanie pokazuje szerszą zmianę w cyberbezpieczeństwie. Im bardziej przekonujące stają się metody stosowane przez oszustów, tym trudniej polegać wyłącznie na prostych filtrach opartych na konkretnych słowach, numerach telefonów czy adresach internetowych.
Sztuczna inteligencja może próbować rozpoznać sam mechanizm manipulacji – np. budowanie zaufania, tworzenie presji czasu czy przygotowywanie użytkownika do przekazania pieniędzy. Ceną za bardziej kontekstową analizę może być jednak konieczność przetwarzania większej części komunikacji. Ile informacji o prywatnej rozmowie użytkownik jest gotów udostępnić systemowi, który ma go ochronić przed tym, czego sam może nie zauważyć?