- La posibilidad de evasión por parte de actores malintencionados.
- El potencial impacto negativo en grupos no angloparlantes.
- La estigmatización del uso de la IA como herramienta de escritura.
Un portavoz de la empresa declaró a TechCrunch que están adoptando un "enfoque deliberado" debido a " las complejidades involucradas y su probable impacto en el ecosistema más amplio más allá de OpenAI".
Desafíos y limitaciones
Si bien las pruebas iniciales muestran que la marca de agua es "muy precisa e incluso efectiva contra la manipulación localizada", como la paráfrasis, también se descubrieron vulnerabilidades. La técnica es menos robusta frente a manipulaciones globales, como:
- El uso de sistemas de traducción
- La reformulación con otro modelo generativo
- La inserción y posterior eliminación de caracteres especiales entre palabras
-
Estos hallazgos llevaron a OpenAI a concluir que el método podría ser "trivial y difícil de eludir por parte de actores maliciosos".
El debate sobre el lanzamiento de esta herramienta pone de manifiesto los complejos desafíos éticos y técnicos que enfrenta la industria de la IA. Mientras OpenAI busca equilibrar la innovación con la responsabilidad, el mundo observa atentamente cómo se desarrollará esta historia en los próximos meses.
------------------------------------------------------------
Más contenido en Urgente24
Flor de la V no perdona a Telefe por polémica en "Survivor": "Es un mensaje de odio"
La miniserie de 6 capítulos que causa tensión desde el primer instante
El restaurante con 4,5 estrellas en Google y platos desde $4800
La estafa del celular que genera preocupación entre los usuarios
