Tinder introduceert twee nieuwe veiligheidsfeatures. Door machine learning in te zetten voor deze features hoopt Tinder haar datingapp veiliger te maken voor haar gebruikers.
Zo kan de app zelf detecteren aan de hand van uitspraken of gebruikers worden blootgesteld aan schadelijke taal. Wanneer de AI denkt dat een gesprek schadelijk kan zijn voor de gebruikers, zal de app zelf vragen of de gebruiker zijn of haar date wil rapporteren voor hun gedrag. Deze functionaliteit werd al eerder in andere landen geactiveerd, wat leidde tot 46% meer gerapporteerde gebruikers.
Aan de andere kant van de chat, werkt de AI ook. Als de AI denkt dat een tekst niet okay is, zal de app vragen of je zeker weet of je dit wilt verzenden. In andere landen werd het ongepaste taalgebruik in de app met zo’n 10% teruggebracht. Op basis van vermindering in de herhaling van deze opmerkingen vanuit de AI, worden gebruikers automatisch getraind om hun gedrag in de chats te veranderen.
Het is alleen de vraag of de AI op deze manier ook sex offenders traint om hun slachtoffers gemakkelijker het bed in te kletsen. Immers verdwijnen voor de slachtoffers potentiële rode vlaggetjes in een gesprek…