El jefe de IA de Microsoft afirma que solo los seres biológicos pueden tener consciencia.
- El director ejecutivo de Microsoft AI, Mustafa Suleyman, declaró esta semana a CNBC que cree que la conciencia solo puede darse en seres biológicos.
- Suleyman se ha convertido en una de las voces más influyentes de la industria tecnológica que se ha manifestado en contra del desarrollo de una IA aparentemente consciente.
- “No creo que ese sea un trabajo que la gente deba hacer”, dijo Suleyman.
MicrosoftEl jefe de IA, Mustafa Suleyman, afirma que solo los seres biológicos son capaces de tener consciencia, y que los desarrolladores e investigadores deberían dejar de impulsar proyectos que sugieran lo contrario.
«No creo que ese sea el trabajo que la gente deba hacer», declaró Suleyman a CNBC en una entrevista esta semana durante la Conferencia AfroTech en Houston, donde fue uno de los oradores principales. «Si haces la pregunta equivocada, obtendrás la respuesta equivocada. Creo que es una pregunta totalmente errónea».
Suleyman, el principal ejecutivo de Microsoft que trabaja en inteligencia artificial, ha sido una de las voces más destacadas en este campo emergente que se ha manifestado en contra de la perspectiva de una IA aparentemente consciente, o de servicios de IA que puedan convencer a los humanos de que son capaces de sufrir.
En 2023, fue coautor del libro «La ola que se avecina», que profundiza en los riesgos de la IA y otras tecnologías emergentes. Y en agosto, Suleyman escribió un ensayo titulado «Debemos construir la IA para las personas, no para que sea una persona».
Es un tema controvertido, ya que el mercado de compañeros de IA está creciendo rápidamente, con productos de empresas como Meta.y la xAI de Elon Musk. Y es un tema complejo, ya que el mercado de la IA generativa, liderado por Sam Altman y OpenAI, avanza hacia la inteligencia artificial general (IAG), o IA que puede realizar tareas intelectuales a la par de las capacidades humanas.
En agosto, Altman declaró en el programa “Squawk Bolmente está sucediendo es que los modelos están avanzando rápidamente y que dependeremos de ellos “para cada vez más cosas”.
Para Suleyman, es particularmente importante establecer un contraste claro entre que la IA se vuelva más inteligente y capaz y su capacidad para tener alguna vez emociones humanas.
“Nuestra experiencia física del dolor nos entristece profundamente y nos hace sentir fatal, pero la IA no siente tristeza al experimentar ‘dolor’”, explicó Suleyman. “Es una distinción crucial. En realidad, solo crea la percepción, la aparente narrativa de la experiencia, de sí misma y de la consciencia, pero eso no es lo que realmente experimenta. Técnicamente, lo sabemos porque podemos observar el comportamiento del modelo”.
Dentro del campo de la IA, existe una teoría llamada naturalismo biológico, propuesta por el filósofo John Searle, que afirma que la conciencia depende de los procesos de un cerebro vivo.
“Hoy en día otorgamos derechos a las personas porque no queremos hacerles daño, porque sufren. Tienen una red neuronal del dolor y preferencias que implican evitarlo”, dijo Suleyman. “Estos modelos no tienen eso. Es solo una simulación”.
Suleyman y otros han afirmado que la ciencia de la detección de la consciencia aún está en sus inicios. No llegó a decir que se debería impedir que otros investigaran el tema, reconociendo que «las distintas organizaciones tienen misiones diferentes».
Pero Suleyman hizo hincapié en la firme oposición que siente hacia esa idea.
“No son conscientes”, dijo. “Así que sería absurdo realizar investigaciones que aborden esa cuestión, porque no lo son y no pueden serlo”.
‘Lugares a los que no iremos’
Suleyman está realizando una gira de conferencias, en parte para informar al público sobre los riesgos de perseguir la conciencia de la IA.
Antes de la Conferencia AfroTech, Suleyman intervino la semana pasada en la Cumbre del Consejo Internacional Paley en Silicon Valley. Allí, afirmó que Microsoft no desarrollará chatbots para contenido erótico, una postura que contradice la de otros actores de la industria tecnológica. Altman anunció en octubre que ChatGPT permitirá a los usuarios adultos entablar conversaciones eróticas, mientras que xAI ofrece un compañero de anime con contenido subido de tono.
“Básicamente, esos servicios se pueden comprar a otras empresas, así que estamos tomando decisiones sobre a qué lugares no iremos”, reiteró Suleyman en AfroTech.
Suleyman se unió a Microsoft en 2024 después de que la compañía pagara a su startup, Inflection AI, 650 millones de dólares en un acuerdo de licencia y adquisición de talento . Anteriormente, cofundó DeepMind y la vendió a Google.por 400 millones de dólares hace más de una década.
Durante su sesión de preguntas y respuestas en AfroTech, Suleyman afirmó que decidió unirse a Microsoft el año pasado, en parte, por la historia, la estabilidad y el amplio alcance tecnológico de la compañía. También recibió propuestas del CEO, Satya Nadella .
“Otro aspecto importante es que Microsoft necesitaba ser autosuficiente en IA”, dijo en el escenario. “Satya, nuestro CEO, se embarcó en esta misión hace aproximadamente 18 meses, para garantizar que internamente tuviéramos la capacidad de entrenar nuestros propios modelos de principio a fin con todos nuestros propios datos: preentrenamiento, postentrenamiento, razonamiento e implementación en productos. Y eso fue parte de la razón por la que contraté a mi equipo”.
Desde 2019, Microsoft ha sido un importante inversor y socio en la nube de OpenAI, y ambas compañías han aprovechado sus respectivas fortalezas para desarrollar grandes negocios de IA. Sin embargo, últimamente la relación ha mostrado signos de tensión , con la colaboración de OpenAI con rivales de Microsoft como Google y Oracle.y Microsoft centrándose más en sus propios servicios de IA.
Las preocupaciones de Suleyman sobre la consciencia han cobrado relevancia. En octubre, el gobernador de California, Gavin Newsom , promulgó la ley SB 243 , que exige que los chatbots revelen que son inteligencia artificial y que indiquen a los menores cada tres horas que «tomen un descanso».
La semana pasada, Microsoft anunció nuevas funciones para su servicio de IA Copilot, incluyendo un asistente virtual llamado Mico y la posibilidad de interactuar con Copilot en chats grupales. Suleyman afirmó que Microsoft está desarrollando servicios que son conscientes de que son inteligencia artificial.
“Sencillamente, estamos creando IA que trabajen siempre al servicio del ser humano”, afirmó.
Hay mucho espacio para la personalidad, añadió.
“El conocimiento existe y los modelos son muy, muy receptivos”, dijo Suleyman. “Ahora depende de todos intentar moldear personalidades de IA con los valores que quieren ver, usar e interactuar”.
Suleyman destacó una función que Microsoft lanzó la semana pasada llamada “conversación real”, que es un estilo de conversación de Copilot diseñado para desafiar las perspectivas de los usuarios en lugar de ser adulador.
Suleyman describió el lenguaje realista como descarado y dijo que recientemente lo había criticado duramente, llamándolo “el máximo cúmulo de contradicciones” por advertir sobre los peligros de la IA en su libro mientras aceleraba su desarrollo en Microsoft.
“Ese fue un caso de uso mágico porque, de alguna manera, pensé: ‘Realmente me siento comprendido por esto’”, dijo Suleyman, señalando que la IA en sí misma está llena de contradicciones.
“En cierto modo resulta decepcionante y, a la vez, totalmente mágico”, dijo. “Y si no te asusta, no lo entiendes de verdad. Debería asustarte. El miedo es sano. El escepticismo es necesario. No necesitamos un aceleracionismo desenfrenado”.
VÍDEO: Microsoft está ganando dinero con la IA, según Brent Thill de Jefferies
No hay comentarios:
Publicar un comentario