Askell fue también la redactora principal de lo que se conoce como la "constitución" de Claude, un documento extenso dirigido directamente al modelo que establece cómo debe comportarse y qué valores debe sostener. "Escribir la constitución se siente mucho como filosofía aplicada", dijo. "Algo más parecido a enseñarle a una persona a ser buena."
amanda-askell-U24
Amanda Askell, doctora en filosofía
En Google DeepMind, el trabajo es más distante del producto final. Julia Haas, filósofa de la mente que lleva cinco años en la empresa, coescribió un paper publicado en Nature que propone un marco para medir si los modelos de lenguaje exhiben competencia moral, es decir, si genuinamente distinguen el bien del mal o simplemente imitan esa distinción.
La pregunta suena abstracta. En la práctica, tiene consecuencias directas sobre cómo se diseñan sistemas que cada vez toman más decisiones autónomas.
Julia-Haas-U24
Julia Haas, filósofa en Google DeepMind
El argumento de los escépticos
No todos en la academia miran este fenómeno con simpatía. Edward Harcourt, profesor de filosofía en Oxford y director del Instituto de Ética en IA de esa universidad, plantea una crítica: cuando una empresa con fines de lucro te paga el sueldo, tu espacio de preguntas está acotado de antemano.
"Si sos un filósofo trabajando para una gran empresa de tecnología, tu campo de problemas tiene límites", dijo. La filosofía, por definición, no debería tenerlos.
Hay además una sospecha más mundana. Que los laboratorios contraten filósofos puede ser genuinamente valioso, pero también es muy conveniente para su imagen pública. Sugiere que los modelos son tan sofisticados que personas serias se preguntan si tienen conciencia. Eso es un argumento de marketing envuelto en papel académico.
Edward-Harcourt-U24
Edward Harcourt, profesor de filosofía en Oxford
"Es bastante bueno para la percepción pública de las empresas de tecnología si la gente cree que están haciendo algo increíblemente inusual e increíblemente poderoso", dijo Harcourt.
David Leslie, del Instituto Alan Turing, señala que hay una afinidad natural entre los filósofos dispuestos a entretenerse con la idea de una mente artificial y los ejecutivos de las grandes empresas de tecnología que se benefician de ese relato. Llamarlo "ética" cuando en realidad es relaciones públicas tiene un nombre: ethics washing.
Lo que los propios filósofos responden
Askell y Gabriel, el líder del equipo de DeepMind, no ignoran la crítica y su argumento es que para hacer filosofía útil sobre IA, necesitás acceso a los modelos antes de que sean públicos.
Ese acceso solo lo tienen quienes trabajan adentro. Desde afuera, la academia puede hacer preguntas, pero sin la información de primera mano, las respuestas son especulativas.
También apuestan a que el incentivo económico y la conducta ética pueden alinearse más seguido de lo que parece. Una empresa que publica más información sobre cómo entrena sus modelos, o que trabaja para eliminar la tendencia de la IA a decirle al usuario lo que quiere escuchar, puede mejorar su reputación y ganar mercado.
"Si simplemente sentiste presión de marketing pero como resultado hiciste tus modelos mucho mejores y todo el proceso más transparente, eso es genial", dijo Askell. "Me alegra que hayas sentido esa presión."
Una pregunta que no tiene respuesta fácil
Si unas pocas corporaciones privadas van a supervisar el desarrollo de una tecnología tan fundamental, ¿preferís que haya un filósofo en la sala o que no haya ninguno?
Es la pregunta con la que cierra el artículo de Wired, y es honesta porque no tiene una respuesta obvia.
Un filósofo cooptado por los intereses de una empresa puede ser peor que ningún filósofo, si su presencia da cobertura a decisiones que de otro modo generarían más resistencia.
Pero un filósofo con acceso real a los modelos, aunque trabaje con restricciones, puede plantear preguntas que de otro modo nadie haría.
En abril, DeepMind contrató a un investigador de Cambridge para trabajar en conciencia artificial y preparación para la superinteligencia.
Su cargo oficial es, simplemente, "filósofo". Es el primer trabajo con ese título en un laboratorio de IA del que se tenga registro público.
Si es mejor o peor, bueno o malo, todavía no sabemos. Pero ese cargo ya existe.
--------------------
Más contenido de Urgente24
Industria pesquera: Piden que se declare la emergencia y advierten por 13.000 empleos
Dybala le confirmó a Riquelme su decisión tras la última oferta de Boca: "Avisó"
Mirtha Legrand se hartó y lanzó la noticia que impactó a todos: "Es horrible"
Romina Gaetani alzó la voz tras el crimen de Agostina Vega y convocó a movilizarse
La Libertad Avanza sigue robando figuras del PRO y ahora se sumó una legisladora rionegrina
