Este experto en inteligencia artificial se hace viral por lo que revela su carta de renuncia a Anthropic

El debate sobre la inteligencia artificial en el mundo crece cada vez más. En los últimos días se ha hecho viral la carta de renuncia del responsable de seguridad de IA de Anthropic debido a que ha dejado una importante advertencia para el mundo.

Experto en inteligencia artificial lanza dura advertencia

Mrinank Sharma, jefe de seguridad de inteligencia artificial, hizo pública su carta de despedida y sacudió al mundo con lo que escribió.

La misiva no tardó en hacerse viral y en ocupar los titulares en medios de comunicación del mundo.

Mrinank Sharma renunció a Anthropic, la empresa creadora del popular chatbot de IA Claude.

El experto, con doctorado en Aprendizaje Automático Estadístico por la Universidad de Oxford, aseguró haber dirigido el equipo de investigación de salvaguardias en Anthropic y enumeró algunas de sus contribuciones.

Entre ellas: "comprender la adulación de la IA y sus causas; desarrollar defensas para reducir los riesgos del bioterrorismo asistido por IA; implementar dichas defensas..."

Más adelante, en la carta lanzó la advertencia de lo que todo el mundo se hizo eco.

"El mundo está en peligro. Y no solo por la IA o las armas biológicas, sino por toda una serie de crisis interconectadas que se desarrollan en este preciso momento", advirtió Sharma.

Si bien no menciona esos peligros, añadió: "Parece que nos estamos acercando a un umbral en el que nuestra sabiduría debe crecer en la misma medida que nuestra capacidad de afectar al mundo, para no tener que afrontar las consecuencias".

Y escribió: "Durante mi tiempo aquí, he visto repetidamente lo difícil que es dejar que nuestros valores rijan nuestras acciones. Lo he visto en mí mismo, en la organización, donde constantemente nos enfrentamos a presiones para dejar de lado lo más importante, y también en la sociedad en general".

Finalmente, Sharma afirmó que buscará un trabajo que le permita actuar conforme a sus principios y se alinee con su integridad.

Carta de renuncia de Mrinank Sharma que se hizo viral

He aquí la carta de renuncia de Mrinank Sharma detallada por Business Insider:

Estimados colegas,He decidido dejar Anthropic. Mi último día será el 9 de febrero.Gracias. Hay tantas cosas aquí que me inspiran y me han inspirado. Por nombrar algunas: un deseo sincero y la motivación para estar presente en una situación tan difícil y aspirar a contribuir de forma significativa e íntegra; la disposición a tomar decisiones difíciles y defender el bien; una enorme brillantez intelectual y determinación; y, por supuesto, la considerable amabilidad que impregna nuestra cultura.

He logrado lo que quería aquí. Llegué a San Francisco hace dos años, tras finalizar mi doctorado y con el deseo de contribuir a la seguridad de la IA. Me siento afortunado de haber podido contribuir a lo que tengo aquí: comprender la adulación de la IA y sus causas; desarrollar defensas para reducir los riesgos del bioterrorismo asistido por IA; poner en práctica esas defensas; y escribir uno de los primeros casos de seguridad de la IA.

Estoy especialmente orgulloso de mis recientes esfuerzos para ayudarnos a vivir nuestros valores mediante mecanismos de transparencia interna; y también de mi proyecto final sobre cómo los asistentes de la IA podrían hacernos menos humanos o distorsionar nuestra humanidad.

Gracias por su confianza.

Sin embargo, tengo claro que ha llegado el momento de avanzar. Constantemente me encuentro lidiando con nuestra situación. El mundo está en peligro. Y no solo por la IA o las armas biológicas, sino por toda una serie de crisis interconectadas que se desarrollan en este preciso momento.

Parece que nos estamos acercando a un umbral en el que nuestra sabiduría debe crecer en la misma medida que nuestra capacidad de influir en el mundo, para no afrontar las consecuencias.

Además, durante mi tiempo aquí, he visto repetidamente lo difícil que es dejar que nuestros valores rijan nuestras acciones. Lo he visto en mí mismo, en la organización, donde constantemente nos enfrentamos a presiones para dejar de lado lo más importante, y también en la sociedad en general.

Es al sostener esta situación y escuchar lo mejor que puedo que lo que debo hacer se aclara. Quiero contribuir de una manera que me resulte plenamente íntegra y que me permita mostrar más mis particularidades. Quiero explorar las preguntas que siento verdaderamente esenciales, las preguntas que David Whyte diría que "no tienen derecho a desaparecer", las preguntas que Rilke nos implora que "vivamos".

Para mí, esto significa partir. Lo que viene después, no lo sé.

Recuerdo con cariño la famosa cita zen: «No saber es lo más íntimo». Mi intención es crear un espacio para dejar de lado las estructuras que me han frenado estos últimos años y ver qué podría surgir en su ausencia. Siento la llamada a escribir algo que aborde y se comprometa plenamente con el lugar en el que nos encontramos, y que sitúe la verdad poética junto con la verdad científica como formas de conocimiento igualmente válidas, y creo que ambas tienen un aporte esencial al desarrollo de nuevas tecnologías.

Espero estudiar poesía y dedicarme a la práctica del discurso valiente. También me entusiasma profundizar en mi práctica de facilitación, coaching, desarrollo de comunidades y trabajo en grupo. Veremos qué sucede.Gracias y adiós. He aprendido muchísimo estando aquí y te deseo lo mejor.

------