Saltar al contenido

Lunes 16 de Noviembre de 2026

Hoy es Lunes 16 de Noviembre de 2026 y son las 21:10 - Hola

TECNOLOGIA

16 de noviembre de 2026

ChatGPT suspenderá por 24 horas a quien busque material de abuso sexual infantil

OpenAI también liberó un detector de imágenes, gratuito para organizaciones aprobadas

ChatGPT suspenderá por 24 horas a quien busque material de abuso sexual infantil

Fuente: Netfan Servicios

OpenAI anunció que ChatGPT mostrará una advertencia a quien intente encontrar material de abuso sexual infantil, borrará la conversación y pausará el acceso a la cuenta durante 24 horas. La empresa también lanzó una herramienta que detecta imágenes de ese tipo, incluidas las generadas con IA.

Según el anuncio de la empresa, la advertencia explica que sexualizar a menores causa daño, también cuando el material pedido es artificial. Además del aviso, ChatGPT ofrece apoyo especializado para ayudar a la persona a dejar esa conducta.

Las sanciones aumentan si el comportamiento se repite. OpenAI indicó que las infracciones reiteradas pueden derivar en suspensiones más largas, en el cierre definitivo de la cuenta o en un reporte a las autoridades.

La página de ayuda de la compañía precisa el alcance. Las intervenciones rigen en los modos de chat y de trabajo, en la web y en el móvil, para cuentas personales. También puede verlas quien usa ChatGPT sin iniciar sesión.

Por ahora la medida no se aplica a los espacios de ChatGPT Business, Enterprise, Edu ni Healthcare. Tampoco funciona en el modo de voz, en Codex ni en las aplicaciones de escritorio, según la misma página. La empresa agrega que el aviso puede variar según el país.

Cuando se activa la intervención, la conversación se detiene y no puede continuar. Si el usuario había iniciado sesión, el chat se oculta del historial y no puede reabrirse.

OpenAI dijo que diseñó el enfoque con organizaciones y asesores académicos que investigan la prevención del abuso sexual infantil, entre ellos Protect Children y la Lucy Faithfull Foundation. Joel Scanlan, de la Universidad de Tasmania, evaluó de forma independiente una prueba de mensajes disuasorios.

Frances Frost, directora de Promoción y Comunicaciones de la Lucy Faithfull Foundation, afirmó que su línea de ayuda Stop It Now ya recibe con frecuencia llamadas de personas a quienes un chatbot de IA las derivó a ese servicio.

El segundo anuncio es un clasificador de imágenes, un programa que analiza archivos y asigna una puntuación según la probabilidad de que muestren abuso. Está pensado para detectar imágenes nuevas, que no figuran en bases de datos de material ya conocido. OpenAI afirma que es el primero de amplia disponibilidad con una señal específica para indicar si el material pudo ser generado con IA.

Lo entrenó y evaluó con ayuda del Centro Nacional para Menores Desaparecidos y Explotados de Estados Unidos (NCMEC), organización que opera la línea de denuncias CyberTipline. El acceso es gratuito, por la API de OpenAI, para organizaciones verificadas que lo soliciten.

En una prueba con imágenes subidas por usuarios, OpenAI estimó que el nuevo sistema señalaría 48% menos imágenes que su herramienta actual y encontraría aproximadamente la misma cantidad de abusos. Las imágenes marcadas tenían el doble de probabilidades de contener abuso.

Entre los primeros socios, fal informó que sus revisores confirmaron como material nuevo el 72% de las alertas de alta confianza. SafetyKit indicó que detectó el 90% de los casos de dibujos o animaciones que sexualizan a menores. Son resultados de pruebas de la empresa y de socios que ya usan la herramienta.

OpenAI publicó además una guía para desarrolladores, elaborada con la Tech Coalition, Thorn, el NCMEC y la Internet Watch Foundation. También ofrecerá herramientas y capacitación a unidades policiales especializadas. La primera herramienta ayudará a revisar chats extensos y a armar cronologías, con acceso sujeto a la autorización de cada agencia.

OpenAI informó que la capacitación inicial será una presentación con una guía práctica, y que las siguientes se propondrán en conferencias regionales, nacionales e internacionales.

COMPARTIR:

Notas Relacionadas

Tecnologia
Instagram permitirá a los creadores poner enlaces de Amazon en cada video y publicación para ganar comisiones

Instagram permitirá a los creadores poner enlaces de Amazon en cada video y publicación para ganar comisiones

Meta habilitó la función solo para adultos de Estados Unidos con más de 1.000 seguidores
Tecnologia
Crean un sensor portátil que podría detectar químicos eternos en el agua: cómo funciona

Crean un sensor portátil que podría detectar químicos eternos en el agua: cómo funciona

El prototipo emplea nanopartículas y cambios de corriente para identificar PFOA y PFOS, dos contaminantes persistentes cuya medición suele exigir equipamiento especializado
Tecnologia
Brasil representaría un riesgo de desviar tecnología hacia China, según EE.UU.

Brasil representaría un riesgo de desviar tecnología hacia China, según EE.UU.

La preocupación de Estados Unidos no es la ubicación de los equipos, sino que terceros accedan remotamente a estos centros de datos

Comentarios

Escribir un comentario
Los comentarios se envían y quedan pendientes de moderación.
Comentarios
Aun no hay comentarios, sé el primero en escribir uno.