Ciekawostki branżowe, Najnowsze, Nowinki techniczne, Przydatne narzędzia, Technologie

Machine learning sposobem na hejt w sieci?

W erze wszechobecnego hejtu i coraz częściej organizowanych akcji społecznych, które mają z nim walczyć (np. dotycząca beauty hejtu, zorganizowana przez markę Rimmel, HejtStop czy Stop Funding Hate), to naturalne, że jakiegoś stanowiska oczekuje się też od ważnych i wpływowych osobistości czy wielkich firm. Wobec tego koncern Google postanowił zareagować i zdecydował się na uruchomienie wtyczki do Chrome o nazwie Tune, choć na razie tylko w wersji testowej.

Mimo że nazwa mogłaby sugerować rozszerzenie do przeglądarki związane z muzyką, konotacje są zgoła inne. Tune pochodzi bowiem od angielskiego wyrażenia tune out, czyli ignorować, nie zwracać na coś uwagi. Celem dodatku jest zatem oczyszczenie naszego feedu na wybranych platformach z wulgarnych, bezcelowych i nienawistnych komentarzy. Możemy wypróbować tę funkcję na YouTubie, Facebooku, Twitterze, Reddicie i Disqus.

Dodatek filtruje komentarze na kilku płaszczyznach toksycznych zachowań:

  • profanity – dotyczy przekleństw i wulgaryzmów,
  • insults – dotyczy obrażania i znieważania innych,
  • threats – dotyczy gróźb, przemocy, nękania,
  • attack on identity – dotyczy negatywnych lub nienawistnych komentarzy kierowanych do kogoś ze względu na jego pochodzenie, odmienny wygląd itp.,
  • sexually explicit – dotyczy sprośnych komentarzy, odwoływania się w wulgarny sposób do aktów seksualnych i intymnych części ciała.

Możemy wybrać jeden z siedmiu poziomów filtrowania komentarzy, które wahają się od “hide it all”, czyli ukrycia wszystkich komentarzy, poprzez “medium”, który usuwa z widoku te bardziej kontrowersyjne, aż do “show it all”, który zapewnia widoczność całej sekcji.


Tune została stworzona na podstawie machine learning, a oprócz kontrolowania komentarzy ma być też przykładem wykorzystywania tej metody w praktyce – w tym przypadku ma sprawdzić się w roli moderatora rozmowy między ludźmi. W tej chwili obsługuje tylko język angielski, choć kiedy sprawdziliśmy, jak będzie zachowywała się w przypadku komentarzy w języku polskim, również próbowała je moderować – niestety z marnym skutkiem. Poniżej zamieszczamy zrzut ekranu, na którym można zobaczyć, jak wyglądało sortowanie komentarzy pod jednym z filmów na YouTube. Mimo że oba są nacechowane pozytywnie, jeden został ukryty (zawsze sygnalizuje to fioletowa kropka), co w tym przypadku jest nieuzasadnione.

Wszystko sprowadza się do tego, że wtyczka to jednak tylko specjalnie skonstruowany mechanizm, a choć niewątpliwie bardzo rozbudowany i zaskakujący intuicją, to niewielkie są szanse na to, że zrozumie ironię czy dopasuje czyjeś słowa do odpowiedniego kontekstu. Założenia przy tworzeniu Tune są szlachetne, natomiast sektor machine learning potrzebuje zapewne jeszcze kilkudziesięciu lat, aby mógł pozwolić sobie na pełnoprawne zestawienie oprogramowania z ludzkim umysłem.

Zapraszam Cię na podcast specjalistów z Grupy Eura7!

Razem z zespołem pomagamy firmom rosnąć. Ten cel osiągamy dzięki odpowiedniej strategii, nowoczesnym narzędziom i skutecznym działaniom marketingowym. Uwielbiamy łączyć nowe technologie, marketing i sztukę. Podobnie jak wyjątkowi goście, którzy w naszym podcaście dzielą się swoją wiedzą, doświadczeniem i pomysłami!

Zobacz odcinki

Jeżeli potrzebujesz wsparcia przy projekcie internetowym lub szukasz agencji specjalizującej się w komunikacji marketingowej - skontaktuj się z nami.

Webinar lojalnościowy
x