Safer, entwickelt von Thorn, ist eine umfassende Lösung, die darauf abzielt, die Verbreitung von kinderpornografischem Material auf digitalen Plattformen zu erkennen und zu verhindern. Durch die Integration fortschrittlicher Technologien wie Hash-Matching und prädiktiver künstlicher Intelligenz befähigt Safer Vertrauens- und Sicherheitsteams, sowohl bekannte als auch neue Fälle von CSAM proaktiv zu identifizieren, um Benutzer zu schützen und die Integrität der Plattform zu wahren.
Hauptmerkmale und Funktionalität:
- Hash-Matching: Nutzt eine umfangreiche Datenbank mit über 57,3 Millionen bekannten CSAM-Hash-Werten aus vertrauenswürdigen Quellen, um bereits erkanntes schädliches Material zu identifizieren und zu blockieren.
- Prädiktive KI-Fähigkeiten: Setzt fortschrittliche KI-Modelle ein, um neue oder bisher unbekannte CSAM zu erkennen, einschließlich textbasierter sexueller Ausbeutung von Kindern, und ermöglicht es Plattformen, aufkommende Bedrohungen effektiv anzugehen.
- Flexible Bereitstellungsoptionen: Bietet sowohl selbst gehostete als auch API-basierte Bereitstellungsoptionen, sodass Plattformen die Integrationsmethode wählen können, die am besten zu ihrer Infrastruktur und ihren Datenschutzanforderungen passt.
- Inhaltsmoderations-Überprüfungsmodul: Bietet eine Benutzeroberfläche, die mit Blick auf das Wohlbefinden der Mitarbeiter gestaltet wurde und effiziente und sensible Inhaltsmoderationsprozesse erleichtert.
- Berichtsmodul: Ermöglicht die direkte Meldung an Organisationen wie das National Center for Missing and Exploited Children und die Royal Canadian Mounted Police, um die Einhaltung und Berichtsverfahren zu optimieren.
Primärer Wert und Benutzerlösungen:
Safer adressiert das dringende Bedürfnis digitaler Plattformen, CSAM zu erkennen und zu eliminieren, um Benutzer vor der Exposition gegenüber schädlichem Inhalt zu schützen und rechtliche sowie reputationsbezogene Risiken zu mindern. Durch die Nutzung der proaktiven Erkennungsfähigkeiten von Safer können Plattformen Community-Richtlinien effektiv durchsetzen, das Vertrauen der Benutzer aufrechterhalten und zu einer sichereren Online-Umgebung für alle Benutzer beitragen. Die Integration der Tools von Safer ermöglicht es Vertrauens- und Sicherheitsteams, die Inhaltsmoderation in großem Maßstab zu verwalten, die Einhaltung gesetzlicher Standards sicherzustellen und gleichzeitig die Privatsphäre der Benutzer und die Integrität der Plattform zu wahren.