El pasado miércoles 8 de mayo despertamos con una noticia intensa: OpenAI, empresa creadora y responsable de ChatGPT, está considerando la posibilidad de generar contenido erótico en su plataforma. Sin duda alguna, una declaración interesante. Sobre todo, tomando en cuenta las recientes polémicas alrededor de estos temas: como la generación de una violación colectiva a Taylor Swift, o las denuncias de niñas menores de edad. Desde diversos lentes, pero todas víctimas de un uso irresponsable y nocivo de la IA. Así, por supuesto que es alarmante la posibilidad de generar contenido erótico con la Inteligencia Artificial, y es importante cuestionar qué tan conveniente es permitirlo.
Las declaraciones parecieran justificar esta consideración. En su documento, mencionan que esta nueva función sería en pro del conocimiento científico. Así, se utilizaría para «hablar de sexo y órganos reproductores en un contexto científico o médico». De este modo, aseguran que esta posibilidad sería siempre en miras de un consumo responsable y ético. Por ello, Joanne Jang, de OpenAI, declara: «Queremos asegurarnos de que la gente tenga el máximo control en la medida en que no viole la ley o los derechos de otras personas». Así, en teoría, la plataforma no busca que con sus herramientas se pueda generar porno. O, al menos, como señala Jang: «depende de tu definición de porno».
He aquí donde es importante tener cuidado. En primer lugar, porque, si bien los motivos parecen en pro del conocimiento, sería crucial estar pendientes de qué tipo de restricciones y limitaciones tendrá esta función. ¿Exactamente de qué forma podrá OpenAI asegurarse de que se está utilizando de forma responsable? ¿Qué tipo de herramientas y restricciones habilitarán para supervisar este contenido? Y, sobre todo, ¿serán lo suficientemente efectivas? ¿De verdad pueden garantizar que ningún delito sea cometido con la Inteligencia Artificial?
Una de las mayores preocupaciones alrededor de esta implementación es la posibilidad de crear deepfakes. ¿Cómo puede OpenAI prometer que esto no ocurrirá? Aunque en sus declaraciones han dejado claro que buscan evitar esto, no son explicítos en cómo lo harán. Sobre todo, la incertidumbre continúa porque este tipo de delitos ya han ocurrido previamente con inteligencias artificiales. Finalmente, el confiar en que las personas serán responsables no garantiza que no generarán pornografía falsa. Y no es suficiente asegurar que no existiría, todavía necesitamos conocer exactamente los mecanismos a desarrollar para evitarlo.
Quedan también por revisar las razones que motivan a esta decisión. Aunque parece justificarse con conocimiento científico, ¿cómo puede enriquecerse la ciencia de este tipo de contenido? ¿Qué tipos de beneficios le aportaría? Nuevamente, OpenAI no es del todo clara en a qué se refiere con estos argumentos, o cuáles serían las funciones que los posibilitarían. De igual forma, cabe lanzar nuevamente la cuestión: ¿qué límites tendrá está función? ¿cómo se definirá cuando es conocimiento científico y cuándo no? Si, como defendió Jang, esto dependerá de la definición de pornografía. ¿Cuál será la de OpenAI? ¿Y a qué intereses responderá?
Sin duda alguna, una noticia que nos invita a mantenernos críticos y atentos. Que no solamente nos pide saber usar responsablemente la Inteligencia Artificial, sino también a exigir las suficientes regulaciones y protección a los usuarios. De momento, cada quien tendrá que crear su propia postura y opinión, pero todavía continúa siendo necesario cuestionar y presionar a OpenAI, así como al resto de empresas de Inteligencia Artificial. Y, también lanzarnos la pregunta como usuarios: ¿de dónde surge esta nueva posibilidad de contenido erótico en la inteligencia artificial? ¿cuáles son sus beneficios y sus riesgos? Y, sobre todo, los beneficios que podría traer, ¿son lo suficientemente grandes como para asumir el enorme riesgo que podrían conllevar?
Quizás podría interesarte: Inteligencia Artificial (IA): Tu compañero perfecto.
