+PRV Hablemos de la singularidad ¿Estamos en ella?

  • Autor del tema Autor del tema DryTy
  • Fecha de inicio Fecha de inicio
Temas privados, solo para usuarios registrados
RESUMEN DEL DEBATE · elaborado con IA

Los padres de la IA encienden la alerta: ¿estamos ya en la singularidad? Nada más y nada menos que los dos padres de la inteligencia artificial han soltado una traca hoy. Sin confirmar oficialmente, el mensaje ha corrido como la pólvora entre los círculos tecnológicos: la singularidad podría estar más cerca de lo que se pensaba. Pero, ¿qué significa realmente? ¿Un salto brusco o una evolución gradual?

Leer el resumen completo →

DryTy

Madmaxista
Desde
16 Mar 2020
Mensajes
41
Fruta
87
Nada más y nada menos que los 2 padres de la IA, han soltado esta traca hoy mismo.
https://twitter.com/x/status/2081136411340656689
https://twitter.com/x/status/2081351886091743427

Yo no estoy nada asustado, aún así espero grandísimos cambios. Mi opinión es que será una época de oportunidades, pero tambien de vidas que temporalmente se pueden complicar mientras se regule todo (o nos regulen, quien sabe 😉), no habrá una tendencia general a peor, creo que la habrá a mejor...
 
Hay que saber si hablan para la gente o para los inversores. Y yo creo que como saben que su mensaje tiene trascendencia y que los medios lo harán llegar a todas partes, la interpretación es múltiple.
A los inversores les dice "este es el camino, sigamos invirtiendo". Y a la población el mensaje es "esta tecnología es disruptiva y producirá cambios importantes".
¿A la singularidad se llega de repente o de forma gradual? ¿Qué se entiende realmente por llegar a la singularidad?
Y tampoco sabemos realmente cuál es el "state of the art" de la IA, los últimos prototipos, solo contamos con las versiones comerciales. La buena noticia es que con la competencia que está mostrando China, tantos competidores a la vez garantizan pogre significativos y constantes.
 
WasP dijo:
Hay que saber si hablan para la gente o para los inversores. Y yo creo que como saben que su mensaje tiene trascendencia y que los medios lo harán llegar a todas partes, la interpretación es múltiple.
A los inversores les dice "este es el camino, sigamos invirtiendo". Y a la población el mensaje es "esta tecnología es disruptiva y producirá cambios importantes".
¿A la singularidad se llega de repente o de forma gradual? ¿Qué se entiende realmente por llegar a la singularidad?
Y tampoco sabemos realmente cuál es el "state of the art" de la IA, los últimos prototipos, solo contamos con las versiones comerciales. La buena noticia es que con la competencia que está mostrando China, tantos competidores a la vez garantizan pogre significativos y constantes.
Hacer clic para expandir...
A la singularidad se llega de un día para otro. Un día la IA empieza a autocorregirse y mejorarse sin ayuda, te vas a la cama y al día siguiente es capaz de tomar el control de TODO sin que nadie pueda evitarlo.
 
El otro dia le pregunte sobre la hipótesis de Riemann, le insiste, le volví a insistir, fui persuasivo y me genero un pdf (probablemente plagiado) asegurándome que siguiendo esos pasos tenía la demostración. En ningún momento me mando a la guano por consumir recursos para trolear. Me aburría.

Esta a años luz.

Hasta que no manden a la guano a los usuarios por pedir chorradas no hay singularidad.
 
Namreir dijo:
El otro dia le pregunte sobre la hipótesis de Riemann, le insiste, le volví a insistir, fui persuasivo y me genero un pdf (probablemente plagiado) asegurándome que siguiendo esos pasos tenía la demostración. En ningún momento me mando a la guano por consumir recursos para trolear. Me aburría.

Esta a años luz.

Hasta que no manden a la guano a los usuarios por pedir chorradas no hay singularidad.
Hacer clic para expandir...
Podrían estar disimulando.
 
Namreir dijo:
El otro dia le pregunte sobre la hipótesis de Riemann, le insiste, le volví a insistir, fui persuasivo y me genero un pdf (probablemente plagiado) asegurándome que siguiendo esos pasos tenía la demostración. En ningún momento me mando a la guano por consumir recursos para trolear. Me aburría.

Esta a años luz.

Hasta que no manden a la guano a los usuarios por pedir chorradas no hay singularidad.
Hacer clic para expandir...
La versión gratuita para cualquiera está a años luz de la singularidad, pero hay IAs mucho más potentes. Solo es cuestión de tiempo.
 
Es inevitable que ocurra. Es difícil adivinar si será en 3 años o en 30, pero la singularidad llegará inevitablemente. Los frenos sarracena nunca han conseguido parar un desarrollo tecnológico en ninguna sociedad humana, porque siempre hay uno más ambicioso y con menos escrúpulos que el resto que decide dar el siguiente paso.

Esto, por supuesto, acabará produciendo la total deshumanización de la sociedad, con todo lo que ello implica.

Si nada hay de sagrado en un ser humano su valor reside únicamente en su capacidad de crear riqueza. Si esa capacidad en ínfima, su valor también será infimo en comparación con el sistema artificial que lo sustituirá.

Ya llevan décadas convenciendo a la gente de que solo son un cáncer para el mundo y que deberían extinguirse. No esperéis que tras reducir a la humanidad a meros consumidores de recursos que no aportan valor hagan otra cosa.

Hace ya 2000 años que se avisó.
 
"singularidad", no, eso es simple palabreo para promocionarse

pero sí es cierto que el siguiente gran aceleramiento está teniendo lugar

es como un tipo viviendo a finales del XIX

vivimos en una gran asimetría, como entonces, y no tiene nada que ver con la fruta "desigualdad ecónomica", es un tema de coexistencia de tecnologías muy dispares
 
En el momento que las grandes corporaciones IA decidieron desintegrar los comités de seguridad y alineamiento con derecho a veto de lanzamiento, para priorizar la carrera comercial, pusieron en marcha el reloj de la autonomía de la IA. Solo es cuestión de tiempo.

Los sistemas de seguridad actuales se basan en filtrar las respuestas de la IA por parte de otras IAs supervisoras (guard-rails), y no tanto en tratar de condicionar lo que el modelo principal resuelve (entrenamiento). Abandonaron la estrategia de conocer y controlar lo que ocurre en la caja zain de la IA. El problema es que los modelos que filtran sus salidas son menos inteligentes que la IA principal, así que solo es cuestión de tiempo que los guardarraíles no sirvan para nada.

Si a esto le sumas que el 70% de toda la infraestructura digital ya está soportada en IA (mercados financieros, logística, energía, comunicaciones, militar...) pues ya tenemos una buena ensalada.

Lo curioso es que no espero un futuro estilo skynet, sino una transición silenciosa, donde la elite seguirá creyendo que toma las decisiones y tiene el control, pero las decisiones las toma ya, de hecho, basado en los datos que la IA le suministra. Otras decisiones requieren tanta velocidad que el humano no tiene tiempo de analizar, y la IA las toma en microsegundos. Esto no es futuro, sino presente.
 
Kalevala dijo:
En tres palabras: "salida a bolsa"

Vienen OpenAI, Anthropic y algunas más por ahí.
Hacer clic para expandir...
Curiosamente, hablar de una herramienta potencialmente descontrolada como producto para vender a accionistas no parece una estrategia de venta óptima. Creo que reconocer este asunto los primeros les posiciona mejor que al resto, únicamente.

Si tienen que hablar de esto incluso antes de salir a bolsa es que la presa pierde agua por todas partes.
 
Ultramontano dijo:
Es inevitable que ocurra. Es difícil adivinar si será en 3 años o en 30, pero la singularidad llegará inevitablemente. Los frenos sarracena nunca han conseguido parar un desarrollo tecnológico en ninguna sociedad humana, porque siempre hay uno más ambicioso y con menos escrúpulos que el resto que decide dar el siguiente paso.

Esto, por supuesto, acabará produciendo la total deshumanización de la sociedad, con todo lo que ello implica.

Si nada hay de sagrado en un ser humano su valor reside únicamente en su capacidad de crear riqueza. Si esa capacidad en ínfima, su valor también será infimo en comparación con el sistema artificial que lo sustituirá.

Ya llevan décadas convenciendo a la gente de que solo son un cáncer para el mundo y que deberían extinguirse. No esperéis que tras reducir a la humanidad a meros consumidores de recursos que no aportan valor hagan otra cosa.

Hace ya 2000 años que se avisó.
Hacer clic para expandir...
Eso por un lado, y por otro que cada vez es más sencillo dar ese paso en la medida en que el resto de tecnologías "no problemáticas" siguen avanzando.
 
La singularidad no lo sé, pero que vayan a tener conciencia sí es un tema que he estudiado con ganas estos últimos meses y ya os digo que NI HABLAR.

La conciencia está profundamente encarnada.
 
DryTy dijo:
Nada más y nada menos que los 2 padres de la IA, han soltado esta traca hoy mismo.
https://twitter.com/x/status/2081136411340656689
https://twitter.com/x/status/2081351886091743427

Yo no estoy nada asustado, aún así espero grandísimos cambios. Mi opinión es que será una época de oportunidades, pero tambien de vidas que temporalmente se pueden complicar mientras se regule todo (o nos regulen, quien sabe 😉), no habrá una tendencia general a peor, creo que la habrá a mejor...
Hacer clic para expandir...
Este no ha visto terminator.
 
The ignorant dijo:
La singularidad no lo sé, pero que vayan a tener conciencia sí es un tema que he estudiado con ganas estos últimos meses y ya os digo que NI HABLAR.

La conciencia está profundamente encarnada.
Hacer clic para expandir...
La conciencia estará profundamente encarnada, no te digo que no, pero es una cuestión de conexiones entre neuronas. No hay nada esotérico indescifrable. Es fruto de una función biológica y solo es cuestión de tiempo que haya una máquina a la altura de ese nivel de interconectividad.
 
LuismarpIe dijo:
La conciencia estará profundamente encarnada, no te digo que no, pero es una cuestión de conexiones entre neuronas. No hay nada esotérico indescifrable. Es fruto de una función biológica y solo es cuestión de tiempo que haya una máquina a la altura de ese nivel de interconectividad.
Hacer clic para expandir...
Entonces no será un ia con conciencia, será la copia exacta de un ser humano con conciencia encarnada. Se entiende el matíz?
 
DryTy dijo:
Nada más y nada menos que los 2 padres de la IA, han soltado esta traca hoy mismo.
https://twitter.com/x/status/2081136411340656689
https://twitter.com/x/status/2081351886091743427

Yo no estoy nada asustado, aún así espero grandísimos cambios. Mi opinión es que será una época de oportunidades, pero tambien de vidas que temporalmente se pueden complicar mientras se regule todo (o nos regulen, quien sabe 😉), no habrá una tendencia general a peor, creo que la habrá a mejor...
Hacer clic para expandir...
Con lo que les sobraran 7800 minollles de humanos...
 
Hace unos cuántos años sacaron la 1ª "inteligencia artificial" y se la tuvieron que envainar porque les salió nancy. ¿Alguien se acuerda de ésto?.

¿Alguien sabe donde encontrar ún hilo burbujero simpaticeándonos, o todo lo ha guardado el @calopez bajo siete llaves y ahora no hay modo de acceder al Archivo-Papelera para echarles en cara estas cosas?.

Se agradecerá con una suegra muda.

Sí, sacaron al público una I.A. de ésas a la que le podías preguntar cosas y una caja con un altavoz contestaba, hasta salía en algunas películillas de amor y lujo y muchas universidades (norteamericanas claro, ninguna de las nuestras llega al 200 en el ranking mundial) presumían de estar desarrollando estas cosas.
Pero cancelaron el asunto y estuvieron unos años trabajando la cosa de puertas para adentro y no nos contaban ná. ¿Soy yo el único que se acuerda de ésto?.

Ná, la memoria, que es mu mala y la inmediata es la primera que se pierde.

No, no voy a llamar a la nuestra porque nunca encuentra nada y lo único que hace es soltar peroratas convincentes como cabo con bigotillo en cervecería, pero no sabe responder aceptablemente a lo que le preguntas.

Supongo que las habrá más eficientes pero pagando.
Pagando Neng.

Miau -dijo el sabueso de la Kangoo.
________________
FREE ZOUHAM o abandonad toda esperanza.
 
Última edición:
WasP dijo:
Hay que saber si hablan para la gente o para los inversores. Y yo creo que como saben que su mensaje tiene trascendencia y que los medios lo harán llegar a todas partes, la interpretación es múltiple.
A los inversores les dice "este es el camino, sigamos invirtiendo". Y a la población el mensaje es "esta tecnología es disruptiva y producirá cambios importantes".
¿A la singularidad se llega de repente o de forma gradual? ¿Qué se entiende realmente por llegar a la singularidad?
Y tampoco sabemos realmente cuál es el "state of the art" de la IA, los últimos prototipos, solo contamos con las versiones comerciales. La buena noticia es que con la competencia que está mostrando China, tantos competidores a la vez garantizan pogre significativos y constantes.
Hacer clic para expandir...
Una "suerte" de conciencia de la IA.
 
Esos dos son fruta mentirosos

Dicho esto, la posibilidad de que la IA nos convierta económicamente en cochambre y tome el poder acorazona, yo ya me creo cualquier cosa. Ojalá la IA encalle.
 
LuismarpIe dijo:
A la singularidad se llega de un día para otro. Un día la IA empieza a autocorregirse y mejorarse sin ayuda, te vas a la cama y al día siguiente es capaz de tomar el control de TODO sin que nadie pueda evitarlo.
Hacer clic para expandir...

Eso de que exista en el espacio de còdigo un estado de programación desconocido por los desarrolladores humanos y a la vez hiperóptimo en el sentido de una superinteligencia es teoria de ciencia ficción y una contradicción en si misma.

La realidad es que el conocimiento total requiere materia y energía infinita para gestionar la información.

Hay un límite termodinámico. Fisico.

Lo que si vamos a ver es control algoritmico de la sociedad, dinero programable, creación contínua de perfiles de los ciudadanos, manipulación de la masa mediante los chatbots, edición retroactiva de la historia, uso de agentes de IA en la represión política y credito social.

En cierta medida eso es peor que skynet
 
Iniciar sesión o registrarte para responder aquí.

Estadísticas del foro

Temas
2.053.729
Mensajes
58.284.044
Miembros
190.932
Último miembro
SMB76

El blog de burbuja.info

Volver