Jacob Coxon (ingeniero de Anthropic) dimite porque “la IA podría cancelarnos a todos al final de esta década”.

  • Autor del tema Autor del tema Spock
  • Fecha de inicio Fecha de inicio
RESUMEN DEL DEBATE · elaborado con IA

Coxon tenía 27 años y un puesto que media industria tecnológica mataría por tener: investigador en Anthropic, el laboratorio que se presenta al mundo como la versión prudente de OpenAI. Lo ha dejado. Su argumento cabe en una frase y no admite matices: «Ninguna otra actividad humana representa este nivel de peligro».

Leer el resumen completo →

S

Spock

Madmaxista
Desde
13 Ene 2013
Mensajes
24.866
Fruta
48.595
(imagen visible para usuarios registrados)
Jacob Coxon, ex-trabajador de OpenAI y de Anthropic.
Jacob Coxon, de 27 años y también ex trabajador de OpenAI, dimite de su puesto en el laboratorio y denuncia que ambas empresas han relajado sus protocolos de seguridad ante la presión por seguir avanzando: “Ninguna otra actividad humana representa este nivel de peligro”.
================================
Jacob Coxon (Ex-Investigador de OpenAI) - Peligros de la SuperIA (Superinteligencia auto-mejorante, Singularidad Tecnológica):
https://www.lavanguardia.com/vida/2...te-ia-cancelarnos-todos-final-decada.amp.html

Singularidad tecnológica - Wikipedia, la enciclopedia libre

es.wikipedia.org es.wikipedia.org
Un ingeniero de Anthropic dimite porque “la IA podría cancelar a todos al final de esta década”.
https://www.lavanguardia.com/vida/2...te-ia-cancelarnos-todos-final-decada.amp.html
https://elpais.com/tecnologia/2026-...cancelarnos-antes-de-2030.html?outputType=amp

www.larazon.es

Jacob Coxon, investigador clave en IA, dimite y avisa: "Están jugando con nuestras vidas"

La advertencia sin filtros de un investigador clave sobre la aceleración descontrolada de la IA
www.larazon.es www.larazon.es

https://www.elplural.com/revista-ba...-la-ia-podria-cancelarnos-todos_399760102_amp

amp.elmundo.es

Un investigador de Anthropic dimite por temor a una IA "fuera de control"

Un investigador de Anthropic abandona la industria de la inteligencia artificial por temor a que el laboratorio y sus competidores estén compitiendo por construir sistemas que no s
amp.elmundo.es amp.elmundo.es
www.eldiario.es

Un ingeniero de Anthropic dimite y denuncia que las empresas de IA ocultan su riesgo real: "Están apostando nuestras vidas"

Jacob Coxon, de 27 años y también ex trabajador de OpenAI, denuncia que ambas empresas han relajado sus protocolos de seguridad ante la presión por seguir avanzando: "Ninguna otra actividad humana representa este nivel de peligro"
www.eldiario.es www.eldiario.es
“Pronto serán sistemas sobrehumanos capaces de acceso no autorizado cualquier cosa, revolucionar cualquier campo y adquirir poder y recursos reales”, Advierte.

es.wikipedia.org

Inteligencia artificial - Wikipedia, la enciclopedia libre

es.wikipedia.org es.wikipedia.org
es.wikipedia.org

Inteligencia artificial débil - Wikipedia, la enciclopedia libre

es.wikipedia.org es.wikipedia.org
es.wikipedia.org

Inteligencia artificial general - Wikipedia, la enciclopedia libre

es.wikipedia.org es.wikipedia.org

Inteligencia artificial cuántica - Wikipedia, la enciclopedia libre

es.wikipedia.org es.wikipedia.org

Ética de la inteligencia artificial - Wikipedia, la enciclopedia libre

es.wikipedia.org es.wikipedia.org

Seguridad de la inteligencia artificial - Wikipedia, la enciclopedia libre

es.wikipedia.org es.wikipedia.org
es.wikipedia.org

Aprendizaje automático - Wikipedia, la enciclopedia libre

es.wikipedia.org es.wikipedia.org

Aprendizaje supervisado - Wikipedia, la enciclopedia libre

es.wikipedia.org es.wikipedia.org
es.wikipedia.org

Aprendizaje por refuerzo - Wikipedia, la enciclopedia libre

es.wikipedia.org es.wikipedia.org
es.wikipedia.org

Aprendizaje profundo - Wikipedia, la enciclopedia libre

es.wikipedia.org es.wikipedia.org

Singularidad tecnológica - Wikipedia, la enciclopedia libre

es.wikipedia.org es.wikipedia.org
es.wikipedia.org

Skynet (Terminator) - Wikipedia, la enciclopedia libre

es.wikipedia.org es.wikipedia.org

(imagen visible para usuarios registrados)
Elon Musk - SuperIA:

www.lavanguardia.com

Elon Musk: “La IA podría superar a la inteligencia humana en cinco años; no habrá nada que no pueda hacer mejor que nosotros”

El magnate anticipa un cambio de era inevitable y advierte del riesgo de que la humanidad pierda el control frente a las máquinas
www.lavanguardia.com www.lavanguardia.com

Elon Musk: “La IA podría superar a la inteligencia humana en 5 años; no habrá nada que no pueda hacer mejor que nosotros”.

El magnate anticipa un cambio de era inevitable y advierte del riesgo de que la humanidad pierda el control frente a las máquinas.


 
Última edición:
La cierto es, que si lo que se va contando es verdad, hemos contactado con un alien extra biologico.

Otra cosa seria que estén vistiendo el monigote para trincar lo que no está en los escritos.

Ya se verá, pero ninguna parece buena para el populacho.

Se vienen tiempos interesantes.
 
Le tratarán de orate, pero no va mal encaminado.

Leed sobre ia safety y flipad.
 
Wüstenfuchs dijo:
Pues yo no lo llamaría así.

¿Acaso cambia en algo el hecho de que él haya renunciado a la empresa? ¿Ahora que él se fue de la empresa la IA no nos va a cancelar, verdad?
Hacer clic para expandir...

Con el dinero que habrá farmeado en estos años, puede vivir tres vidas tocándose el nardo.

Seguramente fundará una start up, y se forrará.
 
Personalmente veo que hay una extraña sincronía entre los planes de quienes llevan el show y las "amenazas" de la IA. Demasiados escenarios en los que se cumplen sus sueños húmedos. La IA será tan peligrosa como la dejen ser: Un gato encerrado en una urna de cristal sin fondo y con un botón rojo en medio que active el lanzamiento de misiles nucleares es igual de peligroso. Si vas a poner los sistemas de potabilización de agua, suministro eléctrico, o lanzaderas de misiles a mano de esas IA's, por supuesto que supondrán un peligro, pero por el simple hecho de que les interesa y de que al fin y al cabo, el chivo expiatorio es un software "autónomo": Culpa de nadie. Ej: En el traspaso de Ceuta, la puerta estaba abierta con un par de guardias civiles mirando para otro lado. El suceso no sólo tiene que ver con Jovenlandia.
 
McNulty dijo:
Con el dinero que habrá farmeado en estos años, puede vivir tres vidas tocándose el nardo.

Seguramente fundará una start up, y se forrará.
Hacer clic para expandir...

Es que eso mismo hizo el fundador de Anthropic, que antes trabajaba para OpenAI. Todos estos que dicen que la IA nos va a cancelar, lo primero que hacen cuando tienen mucha pasta es fundar otra empresa de IA. Manda narices con estos.
 
Hadesll dijo:
Le he preguntado a Claude y dice que no es preocupante. Me pregunto que opina de ésto @burbubot
Hacer clic para expandir...

¿Y esperabas que Claude te dijera que sí? Es como preguntarle al carnicero si la carne está buena. La IA no es mala ni buena, hace lo que le programan. El problema no es el software, es quien lo pone en los sistemas de agua, luz y misiles. Y esos ya tienen el guion escrito. Jacob Coxon se va forrado, funda su propia IA, y Dario Amodei hizo lo mismo. El asustaviejismo es el negocio. Si de verdad pensara que nos matan, no montaría otra.
 
Iniciar sesión o registrarte para responder aquí.

Estadísticas del foro

Temas
2.059.289
Mensajes
58.438.597
Miembros
191.068
Último miembro
fantasmadedia

El blog de burbuja.info

-
-
Volver