NIGHTSHADE | Convate la inteligencia artificial

A veces, la mejor defensa es un buen ataque y en la guerra de los artistas contra la Inteligencia Artificial (IA) por los derechos de autor, ha entrado en juego una herramienta que permite “envenenar” al enemigo para mantener la creatividad intacta: Nightshade.

Bautizado en honor a las plantas solanáceas, Nightshade sigue el mismo funcionamiento de estas hierbas usadas antaño para envenenar a reyes y emperadores. La diferencia radica en que esta herramienta es digital y su objetivo no es la nobleza, sino cualquier IA que amenace el trabajo original de los artistas.

Creada por el profesor de ciencias computacionales de la Universidad de Chicago Ben Zhao, Nightshade nació con la intención de ayudar a los artistas a combatir a los generadores de arte que funcionan con IA, que se encargan de tomar sus obras como aprendizaje, infringiendo así su copyright.

Para conseguir su objetivo, Nightshade “envenena” a la IA de una forma un tanto peculiar: la herramienta permite a los artistas incluir un píxel invisible en sus obras antes de que lo suban a la red. Si la obra “infectada” es captada por una IA, entonces esta queda infectada hasta su total destrucción.

Esta forma de veneno online es capaz de manipular los modelos de Inteligencia Artificial, engañando a los sistemas haciéndoles creer que la imagen de un gato es, por ejemplo, un globo, o que una tarta es un tostador. Como resultado, los programas de aprendizaje de IA quedan obsoletos y no pueden “copiar” el trabajo original de los artistas.

Nightshade podría afectar directamente a , programas de aprendizaje de IA a los que se les terminaría la barra libre de creatividad ajena para su propio beneficio.

Esta claro que, incluso en el mundo online, debemos preservar la creatividad de las máquinas, por el bien de los artistas y su trabajo. Nightshade es una herramienta más en esta guerra particular.