Los creadores del ChatGPT piden un organismo internacional que controle la inteligencia artificial
Los responsables de OpenAI, el laboratorio de investigación en inteligencia artificial que desarrolló ChatGPT, han pedido que ...
Los responsables de OpenAI, el laboratorio de investigación en inteligencia artificial que desarrolló ChatGPT, han pedido que se regule la tecnología “superinteligente”, afirmando que “será más poderosa que otras tecnologías a las que la humanidad ha tenido que enfrentarse en el pasado”.
Para regular los riesgos de los sistemas de IA, debería existir un organismo de control internacional, similar al Organismo Internacional de la Energía Atómica (OIEA), la organización que promueve el uso pacífico de la energía nuclear, escribieron los fundadores de OpenAI, Greg Brockman e Ilya Sutskever, y su director ejecutivo, Sam Altman, en una nota publicada el lunes en el sitio web de la empresa.
something like an IAEA for advanced AI is worth considering, and the shape of the tech may make it feasible:https://t.co/YbbIPOO1p9
(and to make this harder to willfully misinterpret: it's important that any such regulation not constrain AI below a high capability threshold)
“Ante la posibilidad de un riesgo existencial, no podemos limitarnos a reaccionar”, apuntaron.
Altman compareció ante el Congreso el 16 de mayo para implorar a los legisladores que regulen la inteligencia artificial. Los líderes del Congreso compartieron sus preocupaciones sobre las amenazas que podría plantear la IA, incluida la propagación de información errónea y las violaciones de la privacidad.
“Si esta tecnología falla, puede llegar a ser muy problemática. Y queremos ser claros al respecto”, dijo Altman en su testimonio ante los miembros de un subcomité del Senado.
En marzo, más de 1000 líderes tecnológicos e investigadores, entre ellos Elon Musk, director ejecutivo de Tesla y propietario de Twitter, pidieron una moratoria en el desarrollo de los sistemas de IA más avanzados, advirtiendo en una carta abierta que las herramientas presentaban “profundos riesgos para la sociedad y la humanidad”.
En su última nota, los líderes de OpenAI afirmaban que “es concebible que en los próximos 10 años los sistemas de IA superen el nivel de destreza de los expertos en la mayoría de los dominios y lleven a cabo tanta actividad productiva como una de las mayores corporaciones actuales”.
I think people talking about regulatory capture missed the part where @sama said that regulation should be stricter on orgs that are training larger models with more compute (like @OpenAI), while remaining flexible enough for startups and independent researchers to flourish. pic.twitter.com/j0OvyG1a0Q
— Alethea Power (@exteriorpower) May 18, 2023Las últimas herramientas de inteligencia artificial podrían dar un vuelco a la economía de Internet, convirtiendo a los gigantes tecnológicos actuales en meras comparsas y creando las próximas potencias del sector.
Las empresas tecnológicas han gastado miles de millones de dólares en IA, en medio de la creciente preocupación por su potencial para igualar el razonamiento humano y destruir puestos de trabajo. Goldman Sachs estimó recientemente que la IA podría reducir 300 millones de puestos de trabajo a tiempo completo a la automatización.
BuzzFeed acaba de presentar un chatbot que ofrece recomendaciones de recetas.
En la audiencia de la semana pasada, el senador Richard Blumenthal, demócrata por Connecticut y presidente del panel del Senado, reconoció que el Congreso no había estado a la altura de las nuevas tecnologías. Añadió que la audiencia era la primera de una serie para explorar el potencial de la IA y, en última instancia, “escribir las reglas” para ella.
Can you tell the difference?
An AI voice cloning software trained on my floor speeches gave part of my opening statement at yesterday's hearing. The remarks were written by ChatGPT.
We are on the verge of a new era. We must maximize the good over the bad. pic.twitter.com/hak4Px0NxD
“Nuestro objetivo es desmitificar y responsabilizar a estas nuevas tecnologías para evitar algunos de los errores del pasado”, dijo.
Pero a lo largo de los años, las disputas partidistas y las intensas presiones de la industria tecnológica han paralizado decenas de proyectos de ley destinados a reforzar las normas de privacidad, expresión y seguridad.
Con información de The New York Times
