Postępy Map Google w walce z nadużyciami

Jednym ze sposobów na zapewnienie precyzji informacji znajdujących się na Mapach oraz ich niezawodności są również aktualizacje dodawane przez użytkowników. Odkąd w 2010 roku poprosiliśmy użytkowników o przesyłanie treści, ponad 970 milionów osób podjęło się zaktualizowania Map Google za pomocą recenzji, zdjęć, ocen, a także dodania informacji faktycznych, takich jak adresy czy godziny otwarcia. Dzięki temu Mapy Google mogą nadążać za nieustannie zmieniającym się światem wokół nas, a także pomagają Wam podejmować bardziej świadome decyzje.

Mapy Google odzwierciedlają świat rzeczywisty, w taki sam sposób jak ludzie, którzy się do tego przyczyniają. Ten sam sąsiad, który wyciąga do Was rękę, może być też autorem dowcipnych recenzji lokalnych restauracji. Niestety, działa to w obie strony. Tak jak w prawdziwym świecie są ludzie, którzy mają wobec Was złe intencje, tak są i tacy, którzy próbują oszukać Mapy Google za pomocą kłamliwych lub nieodpowiednich treści - zdecydowana ich większość jest usuwana, zanim je zobaczycie.

Chociaż większość naszych działań mających na celu zapobieganie nieprawdziwym treściom odbywa się za kulisami, dziś chcieliśmy podzielić się z Wami pewnymi szczegółami na temat naszych działań i postępów w zapewnianiu niezawodności Map Google i sprawianiu, że mogą być one godne zaufania.

Jak wyłapujemy nieuczciwych użytkowników?

Nieuczciwi użytkownicy próbują wprowadzić ludzi w błąd na różne sposoby, od pozostawiania fałszywych recenzji, które mają zakłócić działalność firm, po dodawanie ocen, które w sztuczny sposób poprawiają reputację danego miejsca. Walka z tą nieprzydatną treścią to złożona, nieustanna bitwa - taka, o której rzadko informujemy publicznie, aby nie dawać znać oszustom o naszych ciągle zmieniających się technikach.

Jednym z najlepszych narzędzi, dostępnym w naszym arsenale, jest zrozumienie, jak wygląda normalne, prawdziwe użytkowanie Map Google. Wiemy na przykład, że przeciętny człowiek prawdopodobnie będzie korzystał z Map Google podczas dojazdu do pracy lub w czasie podróży samochodem albo w trakcie wyszukiwania pobliskich restauracji i usług. Zwykle użytkownicy zostawiają recenzje w miejscach, w których byli i zazwyczaj dodają oceny lub zdjęcia grupowo w związku określonymi lokalizacjami.

Takie obserwacje dostarczają informacji naszym algorytmom uczenia maszynowego, które skanują miliony wpisów dziennie. Algorytmy te wykrywają i usuwają treści naruszające nasze zasady, dostępne w wielu różnych językach. Skanują także Mapy w poszukiwaniu sygnałów nieprawidłowej aktywności użytkowników. Mogą na przykład wykryć nowe konto Map Google powstałe powiedzmy w Bangkoku, które nagle zostawia złe recenzje salonów samochodowych w Meksyku czy 1-gwiazdkowe oceny restauracji w Chicago. Treść naruszająca zasady jest albo usuwana przez nasze automatyczne narzędzia, albo oznaczana do dalszej weryfikacji wraz z odpowiednim kontem użytkownika.

Wdrażamy również tysiące wyszkolonych moderatorów i analityków, którzy pomagają w ocenach treści, które mogą być trudne do rozpoznania dla algorytmów, na przykład recenzji w lokalnym dialekcie lub slangu.

Kim są “Mapowi złoczyńcy” i jak ich powstrzymujemy?

Wyżej wymienione zabezpieczenia i zespoły ludzi zostały stworzone do walki z dwoma głównymi typami “złoczyńców”, którzy nękają Mapy Google: oszustami i wandalami.

Oszuści, których główną motywacją są pieniądze, próbują wprowadzić w błąd ludzi za pomocą takich treści jak fałszywe recenzje mające sztucznie przyciągnąć klientów lub fałszywe oferty w celu wygenerowania ruchu. Aby ich odstraszyć, zapobiegawczo usuwamy możliwości czerpania korzyści z fałszywych treści.

Skupiliśmy się na wykrywaniu treści pochodzących z tzw. farm klików, na których generowane są fałszywe recenzje i oceny. Dzięki lepszemu wykrywaniu aktywności takich farm, utrudniamy tanie publikowanie fałszywych treści, co ostatecznie utrudnia takim organizacjom sprzedawanie recenzji i zarabianie pieniędzy. Aby wychwycić fałszywe profile firm, zanim pojawią się w Mapach, wzmocniliśmy nasze procesy weryfikacji Google Moja Firma o nowe modele systemów uczących się, które pomagają identyfikować nieuczciwe zaangażowanie. Walcząc z zakrojonymi na szeroką skalę próbami tworzenia fałszywych profili biznesowych, powstrzymaliśmy miliony oszustów mających na celu wykradanie klientów legalnym firmom poprzez wypieranie ich z wyników wyszukiwania.

Są też wandale, którzy mogą być motywowani wydarzeniami społecznymi i politycznymi lub po prostu chcą zostawić swój ślad w internecie. Tacy nieuczciwi użytkownicy zostawiają fałszywe recenzje lub edytują nazwy miejsc, a także dodają zdjęcia niezwiązane z danym miejscem lub firmą, robiąc to dla żartu.

Wandalizm dotyczący treści może być trudniejszy do zwalczenia, ponieważ często jest spontaniczny i nieskoordynowany. Na przykład nastolatek, który w ramach żartu zamieszcza żartobliwe zdjęcie w wizytówce swojej szkoły średniej lub ktoś, kto używa wulgaryzmów w bezsensownej recenzji.

Utrudnianie działania wandalom treści sprowadza się do przewidywania i szybkiej reakcji. W miarę jak miejsca stają się bardziej podatne na wandalizm, dostosowujemy naszą obronę. Na przykład w zeszłym roku szybko zmodyfikowaliśmy nasze algorytmy, aby zapobiegawczo blokować recenzje rasistowskie, gdy zaobserwowaliśmy działania ksenofobiczne, skierowane wobec chińskiej społeczności i związane z COVID-19. Aby uniknąć rozprzestrzeniania się dezinformacji związanych z wyborami, ograniczyliśmy możliwość edytowania numerów telefonów, adresów i innych informacji na stronach dotyczących głosowania. Ograniczyliśmy też możliwość recenzowania niektórych miejsc, w których zaobserwowaliśmy wyższy odsetek treści naruszających zasady, takich jak np. szkoły w USA.

Nasz postęp w walce z niepożądanymi treściami

Z pomocą ludzi oraz technologii, monitorującej Mapy 24 godziny na dobę, 7 dni w tygodniu, jesteśmy w stanie podjąć szybkie działania przeciwko oszustom, od usunięcia treści i zawieszenie działalności konta aż po postępowanie sądowe. Tylko w 2020 roku podjęliśmy następujące działania, aby zapewnić wiarygodność treści, które widzicie na Mapach Google:

• Zablokowaliśmy lub usunęliśmy ponad 55 milionów recenzji naruszających nasze zasady i prawie 3 miliony fałszywych profili firm. To o 20 milionów mniej usuniętych recenzji w porównaniu z rokiem 2019. Ta różnica spowodowana jest głównie naszymi wcześniejszymi staraniami dotyczącymi usuwania nieprawdziwych recenzji oraz niższej ogólnej liczby dodawanych opinii w związku z pandemią COVID-19.
• Usunęliśmy ponad 960 000 recenzji i ponad 300 000 profili firm, które zostały nam zgłoszone przez użytkowników Map Google. To wzrost w stosunku do 2019 r., ponieważ rozszerzyliśmy możliwości działania naszych zautomatyzowanych systemów, które uzupełniają ręczny przegląd oznaczonych treści wykonywany przez operatorów i analityków.
• Przejrzeliśmy i usunęliśmy ponad 160 milionów zdjęć i 3,5 miliona filmów, które albo naruszały nasze zasady, albo były niskiej jakości. Na przykład dzięki udoskonaleniom w naszych automatycznych systemach znacznie poprawiliśmy wykrywanie zdjęć, które były bardzo rozmyte. Doprowadziło to do znacznej poprawy jakości zdjęć na Mapach - zarówno tych nowo dodawanych jak i tych udostępnionych w minionych latach. Ponieważ ogólnie prowadziliśmy też bardziej zdecydowane działania wobec nieuczciwych użytkowników, wiele zdjęć zostało automatycznie usuniętych wraz nieuczciwym kontem, które kasowane było wraz z całą jego zawartością.
• Nasza technologia i nasze zespoły wyłączyły ponad 610 000 kont użytkowników po wykryciu i zbadaniu podejrzanego lub naruszającego zasady zachowania.
• Powstrzymaliśmy ponad 3 miliony prób zmiany danych na profilach firm w Google, które nie były podejmowane przez właścicieli tych firm.

- Treści przesyłane przez naszych użytkowników są ważną częścią dalszego udoskonalania Map Google by były one bardziej pomocne dla wszystkich. Ponieważ coraz więcej osób dzieli się swoją lokalną wiedzą na Mapach Google, będziemy nadal rozwijać nasze zasady oraz nasze technologie i zasoby niezbędne do zapewnienia rzetelnych informacji. - Dan Pritchett, Principal Software Engineer, Google Maps