Jednym z wielu negatywnych skutków pandemii koronawirusa jest nasilenie cyberprzemocy. Z pomocą przychodzi pierwsze w Polsce laboratorium sztucznej inteligencji zlokalizowane w Pomorskim Parku Naukowo-Technologicznym Gdynia. Opracowane przez Samurai Labs narzędzie do wykrywania i eliminowania przemocy w sieci zostało docenione nie tylko w środowisku lokalnym. Aktualnie zespół prowadzi kilka wdrożeń w USA, m.in. w amerykańskich szkołach, by zadbać o bezpieczeństwo milionów dzieci. Prowadzi też prace nad polskojęzyczną wersją systemu.
– Pandemia doświadczyła nas szczególnie. W sytuacji nauki zdalnej i kontaktów rówieśniczych w sieci problem cyberprzemocy wobec dzieci i młodzieży nasilił się jak nigdy dotąd. Kiedy tworzyliśmy koncepcję Pomorskiego Parku Naukowo-Technologicznego Gdynia, przyświecała nam idea, aby technologia i innowacyjne rozwiązania wspomagały rozwój miasta i tworzyły jakość życia w mieście. Narzędzie do walki z przemocą w internecie stworzone przez parkową firmę jest odpowiedzią na nasze potrzeby i dowodem na to, że to działa. Tym bardziej cieszy, że dokonania centrum badawczo-rozwojowego Samurai Labs dostrzeżono na arenie międzynarodowej – mówi wiceprezydent Gdyni ds. gospodarki Katarzyna Gruszecka-Spychała.
Samurai jest pierwszym systemem na rynku, który rozumie kontekst i logikę wypowiedzi na tyle dobrze, że jest w stanie automatycznie odróżnić przekleństwo od ataku czy rozmowę o seksie od molestowania lub ataku pedofila. Podobnie z groźbami i innymi zagrożeniami, gdzie konieczna jest reakcja w czasie rzeczywistym i tylko autonomiczna interwencja sztucznej inteligencji pozwala na uniknięcie zagrożenia.
Projekt narzędzia do wykrywania i eliminowania przemocy w sieci został wcześniej pozytywnie oceniony przez Europejską Radę Innowacji, czego efektem było przyznanie grantu z największego unijnego programu wsparcia projektów w zakresie badań naukowych i innowacji Horyzont 2020.
– Pozytywna ocena Europejskiej Rady Innowacji jest dla nas potwierdzeniem tego, że według niezależnych ekspertów nowa metoda zwalczania cyberprzemocy tworzona przez Samurai Labs ma potencjał do rzeczywistego obniżenia tego zjawiska w przestrzeni internetowej. Cieszy mnie fakt, że międzynarodowa komisja doceniła nasze osiągnięcia i otworzyła przed nami drogę, która pomoże zmienić świat na lepsze i zbudować globalną firmę technologiczną z Polski – mówił Michał Wroczyński, prezes Samurai Labs.
Zadaniem systemu Samurai jest wykrywanie i zwalczanie przemocy w środowisku internetowym. To niezwykle istotny problem, mogący dotknąć każdego, a w szczególności dzieci i młodzież. Technologia może być wykorzystana tam, gdzie istnieje zwiększone ryzyko doświadczenia cyberprzemocy czy ataków pedofilskich, czyli na forach internetowych, portalach randkowych i komunikatorach. Twórcy wyjaśniają, że system analizuje rozmowy dzięki połączeniu uczenia maszynowego z wnioskowaniem (tzw. trzecia fala sztucznej inteligencji) opartym o wiedzę ekspercką oraz język.
– Opracowywany prototyp poddajemy licznym i bardzo rygorystycznym testom, wykorzystując rzeczywiste dane pochodzące z forów internetowych oraz mediów społecznościowych. W ten sposób uczymy się, jaki kształt powinno przybrać docelowe rozwiązanie. Naszym celem jest zatrzymanie przemocy zamiast reagowanie po fakcie. Tworzymy pierwszego na świecie internetowego Samuraja, który będzie czuwał nad bezpieczeństwem dzieci – tłumaczył Michał Wroczyński.
System stworzony przez Samurai Labs jest pierwszym na świecie autonomicznym strażnikiem. Dzięki zastosowaniu podejścia neurosymbolicznego – zwanego również trzecią falą sztucznej inteligencji, Samurai działa w czasie rzeczywistym, zapobiegając cyberprzemocy oraz interweniując, zanim konflikt eskaluje. Pierwszym językiem, w którym działał system, był angielski, kolejnym jest polski.
– Jedną z przyczyn, dla których zaczęliśmy pracę nad polskojęzyczną wersją Samuraja, była pandemia. Z dnia na dzień pięć i pół miliona polskich uczniów przeniosło całe swoje życie do sieci. A za nimi podążyli przestępcy seksualni i inne niebezpieczeństwa. Dlatego postanowiliśmy przyspieszyć prace nad polską wersją systemu, którą i tak mieliśmy zrealizować. Mamy już rodzimą wersję językową wykrywania cyberbullyingu, nad którą pracuje nasz ponad 20-osobowy zespół w Gdyni – mówi współzałożyciel Samurai Labs.
Aktualnie Samurai Labs we współpracy z liderem na rynku wideokonferencji prowadzi wdrożenia w amerykańskich szkołach, by zadbać o bezpieczeństwo milionów dzieci.
Zespół współpracuje też z Fundacją Dajemy Dzieciom Siłę nad doskonaleniem rozumienia intencji samobójczych w wypowiedziach użytkowników.
W 2020 roku Samurai Labs – razem z sześcioma startupami technologicznymi – dołączył do programu GovStart, którego celem jest wspieranie obiecujących firm technologicznych w zakresie skalowania biznesu sektorze publicznym. Program został stworzony przez brytyjską organizację Public łączącą doświadczenia z sektora publicznego, technologii i finansów, tak by pomóc w rozwiązywaniu problemów publicznych za pomocą technologii.
Samurai Labs współpracuje z takimi osobami, jak profesor Michał Ptaszyński z Kitami Institute of Technology (Japonia) – światowy ekspert ds. cybernękania i sztucznej inteligencji, Alex Feerst – ekspert z zakresu prawa i etyki, pracujący również dla Neuralink Elona Muska czy Eric Nielsen – były szef działu sprzedaży i marketingu Google’a.
Klientami Samurai Labs są m.in.: International Network Against Cyber Hate (INACH), dla której firma dostarcza narzędzie z AI do szkolenia „kontr-hejterów”, HateLab (Cardiff University), gdzie technologia Samurai monitoruje zachowanie użytkowników w brytyjskim internecie w zakresie mowy nienawiści skierowanej do Polaków, czy Heroo Mobile. Technologia Samurai była testowana również w serwisie Reddit. Działał tam James – chatbot, którego zadaniem było wykrywanie i automatyczne reagowanie na komentarze atakujące i obrażające pozostałych członków społeczności.
Cyberprzemoc, czyli przemoc stosowana w środowisku internetowym, pojawiła się na przełomie XX i XXI wieku. Dzisiaj najczęściej rozprzestrzenia się za pomocą portali społecznościowych, komunikatorów, aplikacji czy e-maili. Obecnie wszyscy, a w szczególności dzieci, są narażeni na działanie stalkerów czy cyberbullying. Skutkuje to szeregiem konsekwencji społecznych i ekonomicznych.
Karolina Szypelt
UM Gdynia
