Ontdek Uw Aantal Engel
Ontwerp door Lauren Park
'Wordt dit een lulfoto?' is een vraag die zoveel mensen, vooral vrouwen, stellen met een gevoel van angst wanneer ze een DM van een vreemde zien. Nou, er is eindelijk een app voor die angst, althans voor je Twitter-DM's.
De inspiratie voor SafeDM , een filter voor het blokkeren van inhoud dat momenteel in ontwikkeling is, ontstond toen Kelsey Bressler merkte dat ze te maken kreeg met ongewenste intimidatie, van digitale seksuele aard.
'[Het was] een willekeurig persoon en wilde mijn aandacht trekken', zegt Bressler. 'Ze vroegen waarom je nooit met me praat en stuurden me toen ... dat. Ik denk dat ik weet waarom ik niet met die persoon praat.'
Bressler's ervaring met wraakporno heeft haar er ook toe aangezet om terug te vechten tegen deze intimidatie. Met een team van drie anderen werkt ze aan een inhoudsfilter AI, die het leert om pikfoto's te herkennen, de gebruiker erover te informeren en ze ook uit hun inbox te verwijderen.
Onderzoek toont aan dat 53 procent van de vrouwen 18 tot 29 en ongeveer 78 procent van de millennial-vrouwen worden ongevraagde expliciete afbeeldingen verzonden, waarvan vele dickpics zijn.
“Als een vrouw geen cyberflitsen heeft meegemaakt, kent ze iemand die dat wel heeft. Het is zo gewoon dat we echt geen andere oplossing hebben gehad dan vrouwen te vertellen hun DM's gewoon te sluiten, wat naar mijn mening niet de juiste reactie is, 'zegt Bressler. 'Dit is iets waar de meeste vrouwen erg enthousiast over zijn.'
Hoe leert de AI hoe pikfoto's eruit zien?
Nou, dankzij Bressler's virale tweet in september , veel gevraagde foto's worden naar het account gestuurd TonenYoDiq . (Sommige foto's zijn helaas ook ten onrechte en niet ten onrechte naar het persoonlijke Twitter-account van Bressler gestuurd.) Lullen bedekt met glitter. Lullen met sokken aan. Penissen in kooien - al deze foto's zijn getest om de AI te helpen herkennen wat een lulfoto maakt.
Tweeten
Als het een penis is, zal SafeDM automatisch de afbeelding verwijderen en de afzender antwoorden dat het verzonden bericht een ongepast bericht was en de gebruiker laten weten wat het aantal strikes is.
“We schelden ze niet uit in het bericht. We zeggen wel dat het ongepaste inhoud was. We werken aan alle woordenstroom en aan het aantal stakingen, [waarbij na] een bepaald aantal stakingen de persoon automatisch wordt geblokkeerd om opnieuw contact met je op te nemen.'
Sommige potentiële gebruikers hebben aangegeven dat ze overtreders zelf handmatig willen blokkeren in plaats van dat SafeDM dit automatisch voor hen doet. Bressler en haar team luisteren naar de feedback van degenen die geïnteresseerd zijn in het filter.
“Dat is wat de gebruikers willen. We proberen de zaken zo flexibel mogelijk te maken, zodat mensen deze instellingen kunnen wijzigen”, zegt Bressler. Na release zijn het filter en de instellingen volledig functioneel, maar het team is bereid om door de gebruiker gevraagde opties na de releasedatum over te nemen aan de eindgebruikers met behoud van de kernfunctionaliteit.
Dit inhoudsfilter wordt (voorlopig) vrijgegeven op 14 februari
Dankzij de hoeveelheid gegevens die door enthousiaste mensen is verstrekt, is er nogal wat getest om het inhoudsfilter te helpen bepalen wat een penis is, en wat, nou ja, niet alleen een fallisch ogend stuk product is. Dit heeft het team ook geholpen om het filter vrij snel te ontwikkelen, inclusief of valse positieven wel of niet door het filter moeten worden opgevangen.
'We zijn meer dan 99 procent nauwkeurig, hoewel we valse positieven hebben', zegt Bressler. 'We moeten op een punt komen waarop we moeten beslissen of mensen penisachtige objecten willen zien, is dat ook intimidatie? Zelfs als [de afbeelding] geen penis is, moet het filter het er toch uit filteren? Het gaat echt terug naar wat de gebruiker wil.”
De Twitter-tests van SafeDm hebben een enorme vooruitgang en nauwkeurigheid laten zien sinds het in september werd aangekondigd, waarbij steeds minder door de AI van het inhoudsfilter kwam. En mensen zijn natuurlijk hyped over de aanstaande release. In een verrassende wending zei Bressler dat sommige van haar favoriete mensen om berichten over het filter te krijgen van vaders zijn, vooral vaders met dochters.
“Ze zijn blij dat ik het doe, maar jammer dat het in het begin nodig is. [Ik heb een paar] vaders [die] blij zijn dat ik eraan werk omdat ze dochters hebben en ze willen niet dat ze hiermee te maken krijgen.'
Iedereen met een Twitter-account kan het filter voor het blokkeren van inhoud gebruiken
'Je hebt geen specifiek telefoonmodel nodig', legt Bressler uit. “Elk Twitter-account kan dit gebruiken. Het werkt hetzelfde op de app en het web.”
Het uiteindelijke doel van het project is om de controle terug te geven aan de gemeenschap, zodat ze niet hoeven te leven in angst voor wat zich in hun Twitter-inbox bevindt.
Gregg Davis en Kim Richards
'Het is grappig hoe je iets uit een vervelende situatie kunt halen en een beetje controle over de situatie kunt krijgen en de wereld een betere plek kunt maken.'
