Peligros de la inteligencia artificial

desventajas de la inteligencia artificial

El riesgo existencial de la inteligencia general artificial es la hipótesis de que un progreso sustancial en la inteligencia general artificial (AGI) podría provocar algún día la extinción humana o alguna otra catástrofe global irrecuperable[1][2][3] Se argumenta que la especie humana domina actualmente a otras especies porque el cerebro humano tiene algunas capacidades distintivas de las que carecen otros animales. Si la IA supera a la humanidad en inteligencia general y se convierte en «superinteligente», entonces podría resultar difícil o imposible de controlar para los humanos. Al igual que el destino del gorila de montaña depende de la buena voluntad humana, el destino de la humanidad podría depender de las acciones de una futura máquina superinteligente[4].

La probabilidad de que se produzca este tipo de escenario es objeto de un amplio debate, y depende en parte de los diferentes escenarios de progreso futuro en la ciencia de la computación[5]. La preocupación por la superinteligencia, que antes era dominio exclusivo de la ciencia ficción, comenzó a generalizarse en la década de 2010, y fue popularizada por figuras públicas como Stephen Hawking, Bill Gates y Elon Musk[6].

peligros de la inteligencia artificial para la humanidad

el futuro de la inteligencia artificial

A medida que los sistemas de IA demuestran ser cada vez más beneficiosos en las aplicaciones del mundo real, han ampliado su alcance, lo que hace que proliferen los riesgos de uso indebido, uso excesivo y abuso explícito. A medida que los sistemas de IA aumentan su capacidad y se integran más plenamente en la infraestructura de la sociedad, las implicaciones de la pérdida de control significativo sobre ellos se vuelven más preocupantes.1 Los nuevos esfuerzos de investigación están dirigidos a reconceptualizar los fundamentos del campo para hacer que los sistemas de IA dependan menos de objetivos explícitos y fácilmente mal especificados.2 Un peligro particularmente visible es que la IA puede facilitar la construcción de máquinas que pueden espiar e incluso matar a escala. Pero hay muchos otros peligros importantes y más sutiles en la actualidad.

Uno de los peligros más acuciantes de la IA es el tecnosolucionismo, la visión de que la IA puede considerarse una panacea cuando no es más que una herramienta.3 A medida que vemos más avances de la IA, aumenta la tentación de aplicar la toma de decisiones de la IA a todos los problemas de la sociedad. Pero la tecnología suele crear problemas más grandes en el proceso de resolver otros más pequeños. Por ejemplo, los sistemas que agilizan y automatizan la aplicación de los servicios sociales pueden volverse rápidamente rígidos y negar el acceso a los inmigrantes u otras personas que se encuentran entre las grietas.4

la inteligencia artificial es un debate peligroso

Eso puede hacer que la gente se pregunte: Espera, ¿qué? Pero estas grandes preocupaciones tienen su origen en la investigación. Junto con Hawking y Musk, figuras destacadas de Oxford y UC Berkeley y muchos de los investigadores que trabajan en IA hoy en día creen que los sistemas avanzados de IA, si se despliegan sin cuidado, podrían apartar permanentemente a la civilización humana de un buen futuro.

Esta preocupación se ha planteado desde los albores de la informática. Pero ha cobrado especial relevancia en los últimos años, cuando los avances en las técnicas de aprendizaje automático nos han permitido conocer de forma más concreta lo que podemos hacer con la IA, lo que la IA puede hacer por (y para) nosotros, y lo mucho que aún no sabemos.

También hay escépticos. Algunos piensan que la IA avanzada está tan lejos que no tiene sentido pensar en ella ahora. A otros les preocupa que la excesiva exageración sobre el poder de su campo pueda matarlo prematuramente. E incluso entre las personas que están de acuerdo en general en que la IA plantea peligros únicos, hay distintas opiniones sobre los pasos que tienen más sentido hoy en día.

La conversación sobre la IA está llena de confusión, desinformación y gente que habla por encima de los demás, en gran parte porque usamos la palabra «IA» para referirnos a muchas cosas. Así que aquí está el panorama general de cómo la inteligencia artificial podría suponer un peligro catastrófico, en nueve preguntas: