Yahoo Open Sources Deep Learning-Modell für Pornografie

Yahoo

Möchten Sie Inhalte, die für die Arbeit nicht sicher sind, von Ihrem Arbeitsbildschirm fernhalten? Künstliche Intelligenz kann Ihnen dabei möglicherweise helfen. Am Freitag veröffentlichten der Yahoo-Forschungsingenieur Jay Mahadeokar und der Senior Director of Product Management Gerry Pesavento einen Blogeintrag Ankündigung der Veröffentlichung des „Deep-Learning-Modells“ des Unternehmens, das es Entwicklern ermöglicht, mit einem Klassifikator für die NSFW-Erkennung zu experimentieren, und geben Sie uns Feedback zu Möglichkeiten zur Verbesserung des Klassifikators.“ Im Wesentlichen stellt Yahoo seine Algorithmen zur Erkennung pornografischer Inhalte als Open Source zur Verfügung Bilder.

„Automatische Erkennung, dass ein Bild nicht für die Arbeit geeignet/sicher ist (NSFW), einschließlich anstößiger und nicht jugendfreier Bilder Bilder sind ein wichtiges Problem, mit dem Forscher seit Jahrzehnten zu kämpfen haben“, schrieb das Yahoo-Team weiter Freitag. „Mit der Weiterentwicklung des Computer Vision, verbesserten Trainingsdaten und Deep-Learning-Algorithmen sind Computer nun in der Lage, NSFW-Bildinhalte automatisch und präziser zu klassifizieren.“

Empfohlene Videos

Allerdings gebe es derzeit kein Open-Source-Modell oder Algorithmus zur Identifizierung von NSFW-Bildern, betonte Yahoo. Daher sei das Unternehmen „im Geiste der Zusammenarbeit und in der Hoffnung, dieses Unterfangen voranzutreiben“. Diese Lücke wird geschlossen, indem ein maschinelles Lerntool bereitgestellt wird, das sich ausschließlich auf die Identifizierung pornografischer Inhalte konzentriert Bilder. Der Grund für diese Besonderheit liegt laut Yahoo darin, dass „was in einem Kontext anstößig sein mag, in einem anderen Kontext angemessen sein kann.“ Aber für diese Zwecke sind Pornos entschieden ungeeignet.

Verwandt

DeepSqueak ist eine maschinell lernende KI. Das verrät, worüber Ratten reden

Das System von Yahoo verwendet Deep Learning, um einem Bild eine Bewertung zwischen 0 und 1 zuzuweisen und so festzustellen, wie NSFW es wirklich ist. „Entwickler können diesen Score verwenden, um Bilder unterhalb eines bestimmten geeigneten Schwellenwerts basierend auf einem zu filtern ROC „Kurve für bestimmte Anwendungsfälle erstellen oder dieses Signal verwenden, um Bilder in den Suchergebnissen einzuordnen“, sagte Yahoo. Bedenken Sie jedoch, dass es hier keine Garantie für die Genauigkeit gibt – hier kommen Sie ins Spiel. „Bei diesem Modell handelt es sich um ein Allzweck-Referenzmodell, das für die vorläufige Filterung pornografischer Bilder verwendet werden kann“, heißt es in dem Blogbeitrag abschließend. „Wir geben keine Garantien für die Genauigkeit der Ausgabe, sondern stellen sie Entwicklern als Open-Source-Projekt zur Verfügung, damit sie sie erkunden und verbessern können.“

Empfehlungen der Redaktion

Deep-Learning-K.I. kann die Verzerrungseffekte ikonischer Gitarrengötter imitieren
Was ist Deep Learning?

Werten Sie Ihren Lebensstil aufDigital Trends hilft Lesern mit den neuesten Nachrichten, unterhaltsamen Produktrezensionen, aufschlussreichen Leitartikeln und einzigartigen Einblicken, den Überblick über die schnelllebige Welt der Technik zu behalten.