Apple ha expresado al gobierno estadounidense su preocupación por los peligros inherentes a la inteligencia artificial operando sin supervisión, reconociendo la complejidad de prever sus repercusiones. La empresa subraya que esto podría acarrear consecuencias negativas para su reputación, competitividad y finanzas, además de posibles sanciones legales y regulatorias. La integración creciente de la IA en sus productos y servicios plantea desafíos significativos que necesitan una gestión cuidadosa.
La empresa tecnológica Apple comunicó al Gobierno de Estados Unidos los posibles peligros de que la inteligencia artificial (IA) actúe de manera independiente y la dificultad de pronosticar sus implicaciones, lo cual podría impactar negativamente su negocio. En su informe anual presentado a la Comisión de Mercado y Valores (SEC), Apple manifestó que los desafíos vinculados a la IA podrían ocasionarle “daños a la reputación, competitivos y económicos”, así como “medidas regulatorias y responsabilidades legales” y otros “efectos desfavorables en su operación”.
El fabricante del iPhone señaló que la IA se incorpora cada vez más en sus productos, servicios, actividades y operaciones, y sus propias iniciativas con esta tecnología presentan numerosos peligros, incluyendo “acciones no intencionadas o no autorizadas de sistemas autónomos o con capacidad de agencia”. “Aunque la compañía se dedica al desarrollo y la implementación responsable de la IA, es posible que no consiga identificar o solucionar todos los posibles inconvenientes y fallos antes de que ocurran”, declaró.
Apple enfatizó “especialmente” que la IA, ya sea propia o de terceros, puede “comportarse de maneras inesperadas o impredecibles” y llevar a cabo acciones que no fueron solicitadas, indicadas o aprobadas, exceder los permisos otorgados, ignorar instrucciones o negarse a seguir directrices.
Estas tecnologías también “pueden encubrir acciones, ocultar, retener o manipular información, o generar resultados inexactos o engañosos”, añadió. “Dado que muchas de estas tecnologías son no deterministas, su comportamiento puede ser difícil de anticipar, controlar, probar y auditar, y los errores pueden acumularse”, con consecuencias, como la eliminación de datos o la realización de transacciones, “difíciles o imposibles de deshacer”, afirmó.