La controvertida decisión de Anthropic: ¿qué significa marcar textos y fotos generados por IA?

La reciente decisión de la empresa Anthropic de marcar de forma invisible todos los textos y fotos generados por su inteligencia artificial ha generado una gran polémica entre los usuarios. A partir del 2 de agosto, los nuevos modelos de Claude, la plataforma de IA detrás de la empresa, incorporarán estas marcas invisibles en el texto generado. Además, se aplicarán a nivel mundial en Claude, incluyendo a su API, Claude Code y todos los servicios en la nube. Lo mismo sucederá con las fotos y metadatos de procedencia firmados.

La medida ha sido criticada por varios usuarios, quienes argumentan que es fácilmente falseable por cualquiera con conocimientos básicos en cómo funciona este tipo de marcado. En otras palabras, la marca de agua de Claude puede indicar que alguno de sus modelos intervino en un texto, pero no puede decir quién lo escribió. Esto ha generado una gran preocupación entre los usuarios, quienes temen que esta medida pueda ser utilizada para engañar a la gente.

Según la propia documentación de Anthropic, la detección de una marca no prueba que Claude haya redactado el contenido. Esto significa que es posible que se determine que un texto ha sido generado con IA, pero que en realidad solo lo haya revisado o traducido. Esta ambigüedad ha llevado a algunos expertos a cuestionar la eficacia de la medida en prevenir fraudes.

Aunque esta medida puede ser efectiva para evitar los fraudes de la IA, también tiene sus limitaciones. La propia empresa Anthropic ha admitido que la firma digital no es una garantía de autenticidad. Esto significa que los usuarios deben ser cautelosos y no tomar a la palabra de la marca de agua como la verdad absoluta.

En el pasado, se han producido casos de fraude en los que se utilizaron textos y fotos generados por IA para engañar a los usuarios. Por ejemplo, se han utilizado textos generados por IA para crear noticias falsas y engañar a la gente. En este sentido, la medida de Anthropic puede ser vista como un paso positivo hacia la transparencia y la autenticidad en la generación de contenido.

Es importante destacar que esta medida no es exclusiva de Anthropic. Otros actores de la IA también están trabajando en desarrollar sistemas de marcado y detección para evitar los fraudes. Esto es una buena noticia para las industrias y profesiones que están afectadas por la generación de contenido de IA de baja calidad.

En última instancia, la decisión de Anthropic de marcar textos y fotos generados por IA es un paso importante hacia la transparencia y la autenticidad en la generación de contenido. Aunque la medida tiene sus limitaciones, también puede ser una herramienta efectiva para evitar los fraudes y proteger a los usuarios.

Explorá más noticias en nuestra sección: Tecnología