La carrera por la inteligencia artificial general (AGI) se está calentando entre los gigantes tecnológicos como Amazon, Google, Meta y Microsoft, así como entre organizaciones como OpenAI. AGI, el concepto de que las máquinas son tan inteligentes como los humanos en una amplia gama de tareas, se ha convertido en una prioridad para estas empresas. Sin embargo, los principales científicos de IA han expresado su preocupación por los posibles riesgos existenciales que plantean los agentes de IA no controlados con habilidades de planificación a largo plazo. El término AGI en sí aún no está claramente definido, con diferentes opiniones sobre lo que significa. Algunos, como Geoffrey Hinton, prefieren el término superinteligencia para las AGI que superan las capacidades humanas.
Si bien los avances en las técnicas de IA autorregresivas han dado lugar a chatbots impresionantes, la verdadera AGI requeriría tecnología que pueda desempeñarse tan bien como los humanos en diversas tareas como el razonamiento, la planificación y el aprendizaje de las experiencias. Existe un debate en curso dentro de la comunidad de IA sobre cómo medir y clasificar el AGI, y algunos abogan por los esfuerzos de creación de consenso. OpenAI, por ejemplo, ha confiado en su junta directiva sin fines de lucro para determinar cuándo sus sistemas de IA han logrado AGI.
Los peligros potenciales de la AGI se destacaron en un estudio reciente publicado en Science, dirigido por el investigador Michael Cohen. El estudio explora los riesgos asociados con los sistemas de IA capaces de planificación a largo plazo y la amenaza potencial que representan si no se regulan adecuadamente. Cohen enfatizó la importancia de que los gobiernos tomen medidas proactivas para abordar estas preocupaciones, ya que las regulaciones actuales pueden no ser suficientes para mitigar los riesgos asociados con el desarrollo de AGI. A medida que la búsqueda de AGI continúa avanzando, la necesidad de marcos éticos y regulatorios que rijan su desarrollo se vuelve cada vez más urgente.
temas: Meta Amazon OpenAI Microsoft Google IA (Inteligencia artificial)
