Que te contara el culebrón de OpenAI, Saltman y Microsoft era asegurar que te enviaba una información ya vieja de la velocidad a la que todo transcurría. Pero hoy ya podemos situar otro foco donde extraer aprendizajes.
La agitación en OpenAI expone la competencia entre bastidores entre personas que ponen su fe en los mercados y los seguidores del altruismo efectivo (movimiento filosófico para determinar las maneras más eficaces de ayudar a otros, cuyo máximo exponente es William MacAskill y que cuenta con ilustres seguidores como Elon Musk) que creen que la ética, la razón, las matemáticas y las máquinas finamente afinadas deberían guiar el futuro.
Dice Vinod Khosla, sobre este asunto y la conformación de los Consejos: «Fui el primer inversor de riesgo en OpenAI. El drama del fin de semana ilustró mi opinión de que los consejos de administración equivocados pueden perjudicar a las empresas. Títulos rimbombantes pueden llevar a una falsa comprensión del complejo proceso de la innovación empresarial. La religión del ‘altruismo efectivo’ de los miembros del consejo de OpenAI y su mala aplicación podrían haber retrasado el camino del mundo hacia los tremendos beneficios de la inteligencia artificial. Imaginemos médicos gratis para todos y tutores casi gratuitos para todos los niños del planeta. Eso es lo que está en juego con la promesa de la IA.”
«Somos una empresa impulsada por valores y comprometida con la creación de AGI (artificial general intelligence) segura y beneficiosa, y el altruismo eficaz no es uno de ellos. Tenemos equipos dedicados a investigar riesgos a corto plazo como la ciberseguridad, el impacto económico y la alineación de los sistemas con los valores humanos», dijo OpenAI después de la publicación del artículo que te adjunto del WSJ.
Google, navegando esas aguas
En Google, la fusión este año de sus dos unidades de inteligencia artificial (DeepMind y Google Brain) provocó una división sobre cómo se aplican los principios del altruismo efectivo. El cofundador de DeepMind, Demis Hassabis, que desde hace tiempo contrata a personas alineadas con el movimiento, está a cargo de las unidades combinadas. Los empleados de Google Brain dicen que han ignorado en gran medida el altruismo efectivo y, en cambio, exploran usos prácticos de la inteligencia artificial y el posible uso indebido de las herramientas de inteligencia artificial.
La pugna…
…por un lado, los altruistas efectivos que temen mortalmente ir demasiado rápido con la IA, y por el otro, los “aceleracionistas efectivos” que creen que no vamos lo suficientemente rápido.
===
Seguimos observando.
Para comprender mejor.
Para actuar antes.
Jorge Segado 
Deja un comentario