Cómo Amazon Shopping utiliza la moderación de contenido de Amazon Rekognition para revisar imágenes dañinas en las reseñas de productos

Amazon Shopping usa la moderación de contenido de Amazon Rekognition para revisar imágenes dañinas en las reseñas de productos.

Los clientes cada vez recurren más a las reseñas de productos para tomar decisiones informadas en su proceso de compra, ya sea que estén adquiriendo artículos de uso diario como un paño de cocina o realizando compras importantes como la compra de un automóvil. Estas reseñas se han convertido en una fuente esencial de información, permitiendo a los compradores acceder a las opiniones y experiencias de otros clientes. Como resultado, las reseñas de productos se han convertido en un aspecto crucial de cualquier tienda, ofreciendo comentarios e ideas valiosas para ayudar a tomar decisiones de compra informadas.

Amazon tiene una de las tiendas más grandes con cientos de millones de artículos disponibles. En 2022, 125 millones de clientes contribuyeron con casi 1.500 millones de reseñas y calificaciones a las tiendas de Amazon, convirtiendo las reseñas en línea de Amazon en una sólida fuente de comentarios para los clientes. A la escala de las reseñas de productos enviadas cada mes, es esencial verificar que estas reseñas se ajusten a las Directrices de la Comunidad de Amazon con respecto al lenguaje aceptable, palabras, videos e imágenes. Esta práctica se implementa para garantizar que los clientes reciban información precisa sobre el producto y para evitar que las reseñas incluyan lenguaje inapropiado, imágenes ofensivas o cualquier tipo de discurso de odio dirigido a individuos o comunidades. Al hacer cumplir estas directrices, Amazon puede mantener un entorno seguro e inclusivo para todos los clientes.

La automatización de la moderación de contenido permite a Amazon escalar el proceso manteniendo una alta precisión. Es un espacio de problemas complejo con desafíos únicos y que requiere diferentes técnicas para texto, imágenes y videos. Las imágenes son un componente relevante de las reseñas de productos, a menudo proporcionando un impacto más inmediato en los clientes que el texto. Con Amazon Rekognition Content Moderation, Amazon puede detectar automáticamente imágenes dañinas en las reseñas de productos con mayor precisión, reduciendo la dependencia de revisores humanos para moderar dicho contenido. La moderación de contenido de Rekognition ha ayudado a mejorar el bienestar de los moderadores humanos y a lograr ahorros significativos de costos.

Moderación con modelos de ML alojados por uno mismo

El equipo de Amazon Shopping diseñó e implementó un sistema de moderación que utiliza aprendizaje automático (ML) en conjunto con la revisión humana en bucle (HITL) para garantizar que las reseñas de productos se traten sobre la experiencia del cliente con el producto y no contengan contenido inapropiado o dañino según las directrices de la comunidad. El subsistema de moderación de imágenes, como se ilustra en el siguiente diagrama, utilizó múltiples modelos de visión por computadora alojados y entrenados por uno mismo para detectar imágenes que violan las directrices de Amazon. El controlador de decisiones determina la acción de moderación y proporciona razones para su decisión basadas en la salida de los modelos de ML, decidiendo así si la imagen requería una revisión adicional por parte de un moderador humano o si podía ser aprobada o rechazada automáticamente.

• Avances en la comprensión de documentos
• Gran Tecnología y IA Generativa ¿Controlará la Gran Tecnología la IA Generativa?
• La IA generativa puede cambiar el mundo, pero solo si la infraestructura de datos se mantiene al día

Con estos modelos de ML alojados por uno mismo, el equipo comenzó automatizando las decisiones sobre el 40% de las imágenes recibidas como parte de las reseñas y continuó trabajando en mejorar la solución a lo largo de los años enfrentando varios desafíos:

• Esfuerzos continuos para mejorar la tasa de automatización: El equipo deseaba mejorar la precisión de los algoritmos de ML, con el objetivo de aumentar la tasa de automatización. Esto requiere inversiones continuas en etiquetado de datos, ciencia de datos y MLOps para el entrenamiento y despliegue de modelos.
• Complejidad del sistema: La complejidad de la arquitectura requiere inversiones en MLOps para garantizar que el proceso de inferencia de ML se amplíe de manera eficiente para satisfacer el creciente tráfico de envío de contenido.

Reemplazar los modelos de ML alojados por uno mismo con la API de Moderación de Contenido de Rekognition

Amazon Rekognition es un servicio de inteligencia artificial (IA) administrado que ofrece modelos preentrenados a través de una interfaz de API para la moderación de imágenes y videos. Ha sido ampliamente adoptado por industrias como comercio electrónico, redes sociales, juegos, aplicaciones de citas en línea y otros para moderar contenido generado por los usuarios (UGC). Esto incluye una variedad de tipos de contenido, como reseñas de productos, perfiles de usuarios y moderación de publicaciones en redes sociales.

La Moderación de Contenido de Rekognition automatiza y agiliza los flujos de trabajo de moderación de imágenes y videos sin requerir experiencia en ML. Los clientes de Amazon Rekognition pueden procesar millones de imágenes y videos, detectando de manera eficiente contenido inapropiado o no deseado, con APIs totalmente administradas y reglas de moderación personalizables para mantener seguros a los usuarios y cumplir con las regulaciones comerciales.

El equipo migró con éxito un subconjunto de modelos de ML administrados por uno mismo en el sistema de moderación de imágenes para la detección de contenido con desnudez y contenido no seguro para el trabajo (NSFW) a la API de Detección de Moderación de Rekognition, aprovechando los modelos de moderación preentrenados altamente precisos y completos. Con la alta precisión de Amazon Rekognition, el equipo ha podido automatizar más decisiones, ahorrar costos y simplificar la arquitectura de su sistema.

Mayor precisión y categorías de moderación ampliadas

La implementación de la API de moderación de imágenes de Amazon Rekognition ha dado como resultado una mayor precisión en la detección de contenido inapropiado. Esto implica que aproximadamente 1 millón de imágenes adicionales por año serán moderadas automáticamente sin necesidad de revisión humana.

Excelencia operativa

El equipo de Amazon Shopping pudo simplificar la arquitectura del sistema, reduciendo el esfuerzo operativo necesario para administrar y mantener el sistema. Este enfoque les ha ahorrado meses de esfuerzo de DevOps al año, lo que significa que ahora pueden dedicar su tiempo al desarrollo de funciones innovadoras en lugar de gastarlo en tareas operativas.

Reducción de costos

La alta precisión de la moderación de contenido de Rekognition ha permitido al equipo enviar menos imágenes para su revisión humana, incluido contenido potencialmente inapropiado. Esto ha reducido el costo asociado con la moderación humana y ha permitido a los moderadores enfocar sus esfuerzos en tareas comerciales de mayor valor. Combinado con las ganancias de eficiencia de DevOps, el equipo de Amazon Shopping logró ahorros significativos de costos.

Conclusión

La migración de modelos de ML alojados por sí mismos a la API de moderación de productos de Amazon Rekognition puede proporcionar muchos beneficios para las empresas, incluidos ahorros significativos de costos. Al automatizar el proceso de moderación, las tiendas en línea pueden moderar rápidamente y con precisión grandes volúmenes de revisiones de productos, mejorando la experiencia del cliente al garantizar que el contenido inapropiado o de spam se elimine rápidamente. Además, al utilizar un servicio administrado como la API de moderación de productos de Amazon Rekognition, las empresas pueden reducir el tiempo y los recursos necesarios para desarrollar y mantener sus propios modelos, lo que puede ser especialmente útil para empresas con recursos técnicos limitados. La flexibilidad de la API también permite a las tiendas en línea personalizar sus reglas y umbrales de moderación para adaptarse a sus necesidades específicas.

Obtenga más información sobre la moderación de contenido en AWS y nuestros casos de uso de ML para moderación de contenido. Dé el primer paso hacia la optimización de sus operaciones de moderación de contenido con AWS.

We will continue to update Zepes; if you have any questions or suggestions, please contact us!