{"id":4389,"date":"2023-11-17T14:20:55","date_gmt":"2023-11-17T14:20:55","guid":{"rendered":"https:\/\/pruymannconsulting.com\/?p=4389"},"modified":"2023-11-17T14:21:00","modified_gmt":"2023-11-17T14:21:00","slug":"un-paso-hacia-adelante-en-la-regulacion-de-la-inteligencia-artificial","status":"publish","type":"post","link":"https:\/\/pruymannconsulting.com\/cat\/un-paso-hacia-adelante-en-la-regulacion-de-la-inteligencia-artificial\/","title":{"rendered":"Un paso hacia adelante en la regulaci\u00f3n de la inteligencia artificial"},"content":{"rendered":"
En el BOE del d\u00eda 9 de noviembre, se ha publicado el Real Decreto 817\/2023 que pone en marcha el entorno controlado de pruebas (\u201csandbox\u201d) del Reglamento Europeo de Inteligencia Artificial<\/p>\n\n\n\n
Le informamos que en el BOE del d\u00eda 9 de noviembre, se ha publicado el Real Decreto 817\/2023 por el que se habilita al Ministerio de Asuntos Econ\u00f3micos y Transformaci\u00f3n Digital, a trav\u00e9s de su Secretar\u00eda de Estado de Digitalizaci\u00f3n e Inteligencia Artificial, a abrir la convocatoria a empresas<\/strong> para<\/strong> participar en el entorno controlado de pruebas -sandbox- del Reglamento Europeo de Inteligencia Artificial.<\/strong><\/p>\n\n\n\n Hay que tener en cuenta que actualmente el Parlamento y Consejo europeos est\u00e1n elaborando un Reglamento de Inteligencia Artificial.<\/p>\n\n\n\n En este contexto, el Gobierno de Espa\u00f1a, con la colaboraci\u00f3n de la Comisi\u00f3n Europea, ha puesto en marcha el primer entorno controlado de pruebas para comprobar la forma de implementar los requisitos aplicables a los sistemas de Inteligencia Artificial (IA) de alto riesgo de la propuesta de Reglamento europeo de inteligencia artificial.<\/p>\n\n\n\n Objetivo y entrada en vigor<\/strong><\/p>\n\n\n\n La norma tiene por objeto establecer un entorno controlado de pruebas para ensayar el cumplimiento de ciertos requisitos por parte de algunos sistemas de inteligencia artificial (IA) que puedan suponer riesgos para la seguridad, la salud y los derechos fundamentales de las personas. Asimismo, se regula el procedimiento de selecci\u00f3n de los sistemas y entidades que participar\u00e1n en el entorno controlado de pruebas<\/p>\n\n\n\n El entorno de pruebas posibilita la cooperaci\u00f3n entre los usuarios y los proveedores de IA. Adem\u00e1s, pretende acercar a las autoridades competentes las empresas desarrolladoras de IA.<\/p>\n\n\n\n El objetivo de la norma ser\u00e1 anticiparse a las exigencias que previsiblemente Reglamento europeo de IA incorporar\u00e1, con el fin de que, sin necesidad de aguardar a que \u00e9ste se apruebe, proveedores, usuarios y autoridades comiencen a analizar y a poner en pr\u00e1ctica los requisitos regulatorios que se espera que introduzca. De hecho, la norma prev\u00e9 que este Real Decreto tendr\u00e1 una vigencia de m\u00e1ximo 36 meses <\/strong>desde su entrada en vigor (10 de noviembre de 2023) o, en su caso, hasta que sea aplicable en el Reino de Espa\u00f1a el Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de IA.<\/p>\n\n\n\n \u00c1mbito de aplicaci\u00f3n<\/strong><\/p>\n\n\n\n La norma es de aplicaci\u00f3n:<\/p>\n\n\n\n Definiciones<\/strong><\/p>\n\n\n\n En la norma se regulan las definiciones, entre las que podemos destacar:<\/p>\n\n\n\n 3) \u00abSistema de inteligencia artificial de prop\u00f3sito general\u00bb: <\/strong>sistema de inteligencia artificial que, independientemente de la modalidad en la que se comercialice o se ponga en servicio, incluso como software de c\u00f3digo abierto, est\u00e1 destinado por el proveedor del sistema a realizar funciones de aplicaci\u00f3n general, como el reconocimiento de texto, im\u00e1genes y del habla; la generaci\u00f3n de textos, audios, im\u00e1genes y\/o v\u00eddeos; detecci\u00f3n de patrones; respuesta a preguntas; traducci\u00f3n y otras.<\/p>\n\n\n\n 4) \u00abModelo fundacional\u00bb: <\/strong>es un modelo de inteligencia artificial entrenado en una gran cantidad de datos no etiquetados a escala (generalmente mediante aprendizaje autosupervisado y\/o con recopilaci\u00f3n autom\u00e1tica de contenido y datos a trav\u00e9s de internet mediante programas inform\u00e1ticos) que da como resultado un modelo que se puede adaptar a una amplia gama de tareas posteriores.<\/p>\n\n\n\n 5) \u00abProveedor de sistemas de Inteligencia Artificial\u00bb, en adelante \u00abProveedor IA\u00bb: <\/strong>Toda persona jur\u00eddica privada, entidad del sector p\u00fablico en Espa\u00f1a, u organismo de otra \u00edndole, que ha desarrollado o para quien se ha desarrollado un sistema de inteligencia artificial, y que lo introduce en el mercado o lo pone en servicio bajo su propio nombre o marca comercial, ya sea de forma onerosa o gratuita. El proveedor IA ser\u00e1 designado de las formas indicadas a continuaci\u00f3n seg\u00fan la fase del proceso en la que se encuentre.<\/p>\n\n\n\n 6) \u00abUsuario\u00bb: <\/strong>las personas jur\u00eddicas privadas o las administraciones p\u00fablicas y entidades del sector p\u00fablico institucional en Espa\u00f1a bajo cuya autoridad se utilice un sistema de inteligencia artificial. El usuario ser\u00e1 designado de las formas indicadas a continuaci\u00f3n seg\u00fan la fase del proceso en la que se encuentre.<\/p>\n\n\n\n 7) \u00abAutoevaluaci\u00f3n de cumplimiento\u00bb: <\/strong>procedimiento de verificaci\u00f3n del cumplimiento de los requisitos, del sistema de gesti\u00f3n de la calidad, de la documentaci\u00f3n t\u00e9cnica y del plan de seguimiento posterior a la comercializaci\u00f3n, todos ellos detallados en este real decreto, realizados por el proveedor IA y en su caso, por el usuario, y que puede servir como referencia para la evaluaci\u00f3n de conformidad que define la propuesta del Reglamento europeo por el que se establecen normas armonizadas en materia de inteligencia artificial. La autoevaluaci\u00f3n de cumplimiento se circunscribe al \u00e1mbito de este entorno, sin que suponga la equiparaci\u00f3n a la superaci\u00f3n de evaluaciones de conformidad exigidas en otras legislaciones espec\u00edficas, en particular en la propuesta del Reglamento europeo de Inteligencia Artificial.<\/p>\n\n\n\n 8) \u00abComercializaci\u00f3n\u00bb: <\/strong>todo suministro de un sistema de inteligencia artificial para su distribuci\u00f3n o utilizaci\u00f3n en el mercado de la Uni\u00f3n Europea en el transcurso de una actividad comercial, ya se produzca el suministro de manera onerosa o gratuita.<\/p>\n\n\n\n Requisitos de elegibilidad para la participaci\u00f3n en el entorno<\/strong><\/p>\n\n\n\n La norma establece que la participaci\u00f3n en el entorno controlado de pruebas est\u00e1 abierta a aquellos proveedores IA y usuarios residentes en Espa\u00f1a o que tengan un establecimiento permanente en Espa\u00f1a, o bien, sean parte de una agrupaci\u00f3n de entidades, donde el representante de la agrupaci\u00f3n o apoderado \u00fanico siendo integrante de \u00e9sta, sea la entidad solicitante y cuyo domicilio o establecimiento principal se encuentre necesariamente en territorio espa\u00f1ol.<\/p>\n\n\n\n Atenci\u00f3n.<\/strong> Podr\u00e1n acceder a este entorno, en calidad de usuario participante, las personas jur\u00eddicas privadas y administraciones p\u00fablicas y entidades del sector p\u00fablico institucional que hagan uso de un sistema de inteligencia artificial de alto riesgo, sistemas de prop\u00f3sito general, o modelos fundacionales, siempre que el correspondiente proveedor IA acceda conjuntamente al entorno con el usuario participante.<\/p>\n\n\n\n El proveedor IA solicitante podr\u00e1 presentar una o varias propuestas de sistema de inteligencia artificial de alto riesgo, de prop\u00f3sito general, o modelo fundacional. Estos sistemas podr\u00e1n ser nuevos desarrollos o sistemas ya establecidos. A la vez, dichos sistemas de inteligencia artificial deben haber alcanzado un nivel de desarrollo suficientemente avanzado como para poder comercializarse o ponerse en servicio dentro del marco temporal del entorno controlado de pruebas o a su finalizaci\u00f3n. La solicitud se rechazar\u00e1 si el sistema de inteligencia artificial propuesto no est\u00e1 suficientemente maduro.<\/p>\n\n\n\n En su caso, para aquellos sistemas de inteligencia artificial que hagan uso o tratamiento de datos personales deber\u00e1n cumplir la normativa de protecci\u00f3n de datos<\/p>\n\n\n\n Exclusiones<\/strong><\/p>\n\n\n\n Los sistemas de inteligencia artificial propuestos por los proveedores IA solicitantes no podr\u00e1n estar incluidos en los siguientes supuestos:<\/strong><\/p>\n\n\n\n a)<\/strong>\u2003Sistemas de inteligencia artificial comercializados o puestos en servicio para actividades militares, de defensa o seguridad nacional, cualquiera que sea la entidad que desarrolle esas actividades.<\/p>\n\n\n\n b)<\/strong>\u2003Sistemas de inteligencia artificial que se sirvan de t\u00e9cnicas subliminales que trasciendan la consciencia de una persona con el objetivo o el efecto de alterar efectivamente su comportamiento de un modo que provoque o pueda provocar, con probabilidad razonable, perjuicios f\u00edsicos o psicol\u00f3gicos a esa persona o a otra.<\/p>\n\n\n\n c)<\/strong>\u2003Sistemas de inteligencia artificial que aprovechen alguna de las vulnerabilidades de un grupo espec\u00edfico de personas debido a su edad o discapacidad o una situaci\u00f3n social o econ\u00f3mica espec\u00edfica con el objetivo o el efecto de alterar efectivamente el comportamiento de una persona de ese grupo de un modo que provoque o pueda provocar, con probabilidad razonable, perjuicios f\u00edsicos o psicol\u00f3gicos a esa persona o a otra.<\/p>\n\n\n\n d)<\/strong>\u2003Sistemas de inteligencia artificial que tengan el fin de evaluar o clasificar personas f\u00edsicas durante un per\u00edodo determinado de tiempo atendiendo a su conducta social o a caracter\u00edsticas personales o de su personalidad conocidas o predichas, de forma que la clasificaci\u00f3n social resultante provoque una o varias de las situaciones siguientes:<\/p>\n\n\n\n e)<\/strong>\u2003Sistemas de identificaci\u00f3n biom\u00e9trica remota \u00aben tiempo real\u00bb para su uso en espacios de acceso p\u00fablico con fines de aplicaci\u00f3n de la ley, salvo y en la medida en que dicho uso sea estrictamente necesario para alcanzar uno o varios de los objetivos siguientes:<\/p>\n\n\n\n Informe<\/strong> y procedimiento<\/strong><\/p>\n\n\n\n Previa a la finalizaci\u00f3n, tanto de los proveedores IA participantes como de los usuarios participantes, entregar\u00e1n un informe a la Subdirecci\u00f3n General de Inteligencia Artificial y Tecnolog\u00edas Habilitadoras Digitales.<\/p>\n\n\n\n El contenido del informe anterior se indicar\u00e1 en las gu\u00edas que ofrezca el \u00f3rgano competente. Las entidades que hayan completado las fases del entorno controlado de pruebas recibir\u00e1n un documento acreditativo de su participaci\u00f3n en el mismo junto con un informe de valoraci\u00f3n de los resultados obtenidos.<\/p>\n\n\n\n El \u00f3rgano competente podr\u00e1 abrir nuevas convocatorias en el futuro.<\/p>\n\n\n\n Cuando el \u00f3rgano competente considere que el entorno controlado de pruebas ha cumplido con el objeto indicado en el presente real decreto podr\u00e1 determinar la finalizaci\u00f3n de este y emitir\u00e1 un comunicado p\u00fablico a tal efecto en el portal web del \u00f3rgano competente.<\/p>\n\n\n\n El proveedor IA y, en su caso, el usuario, podr\u00e1n solicitar, mediante comunicaci\u00f3n al \u00f3rgano competente a trav\u00e9s del canal especificado en el art\u00edculo 20.3 del presente real decreto, la retirada voluntaria del entorno controlado de pruebas por motivos justificados.<\/p>\n\n\n\n Una vez instruido el procedimiento, el \u00f3rgano competente resolver\u00e1 la solicitud de salida voluntaria de forma motivada en el plazo m\u00e1ximo de quince d\u00edas h\u00e1biles. Esta resoluci\u00f3n pone fin a la v\u00eda administrativa y el sentido del silencio administrativo ser\u00e1 positivo.<\/p>\n\n\n\n En el caso de que el proveedor IA participante o, en su caso, el usuario participante se retire del entorno controlado de pruebas, deber\u00e1 mantener el deber de confidencialidad en los t\u00e9rminos previstos en la resoluci\u00f3n de admisi\u00f3n.<\/p>\n\n\n\n Asimismo, la salida tanto de un proveedor IA participante como de un usuario participante no generar\u00e1 en ning\u00fan caso derecho de indemnizaci\u00f3n ni compensaci\u00f3n alguna por parte del \u00f3rgano competente.<\/p>\n\n\n\n El \u00f3rgano competente, si as\u00ed lo considera conveniente para el resultado del entorno, podr\u00e1 cubrir la posici\u00f3n liberada por la retirada voluntaria con la siguiente entidad que hubiera solicitado la participaci\u00f3n de acuerdo con lo dispuesto en la convocatoria.<\/p>\n\n\n\n Podr\u00e1 declararse la finalizaci\u00f3n anticipada de las pruebas en el entorno de manera individualizada, dando por finalizada la experiencia sin \u00e9xito para ese proveedor IA participante o, en su caso, usuario participante, mediante resoluci\u00f3n motivada del \u00f3rgano competente en base a la concurrencia de alguna de las siguientes circunstancias:<\/p>\n\n\n\n a)<\/strong>\u2003Se ha producido un incumplimiento del r\u00e9gimen jur\u00eddico en la convocatoria o en la resoluci\u00f3n de admisi\u00f3n.<\/p>\n\n\n\n b)<\/strong>\u2003Se ha cesado en el cumplimiento de alguno de los requisitos iniciales para la elegibilidad para la participaci\u00f3n en el entorno controlado de pruebas.<\/p>\n\n\n\n c)<\/strong>\u2003Se ha producido un incumplimiento del deber de facilitar informaci\u00f3n requerida en el marco de seguimiento establecido por el \u00f3rgano competente.<\/p>\n\n\n\n d)<\/strong>\u2003Se han producido incidentes graves o errores de funcionamiento en los sistemas de inteligencia artificial.<\/p>\n\n\n\n e)<\/strong>\u2003Se ha identificado un riesgo no previsto en la memoria t\u00e9cnica.<\/p>\n\n\n\n f)<\/strong>\u2003La entidad no aporta los recursos necesarios para implantaci\u00f3n de los requerimientos acordados en el plan de implantaci\u00f3n.<\/p>\n\n\n\n g)<\/strong>\u2003La entidad no cumple con las acciones necesarias para superar la declaraci\u00f3n de cumplimiento.<\/p>\n\n\n\n h)<\/strong>\u2003Cualquier otra circunstancia que se previera en la convocatoria.<\/p>\n\n\n\n Una vez se ha identificado alguna de las circunstancias anteriores, el \u00f3rgano competente, previa audiencia con los participantes resolver\u00e1 de forma motivada en el plazo m\u00e1ximo de 15 d\u00edas h\u00e1biles. Esta resoluci\u00f3n pone fin a la v\u00eda administrativa.<\/p>\n\n\n\n Adicionalmente a los casos indicados, tambi\u00e9n se declarar\u00e1 la finalizaci\u00f3n anticipada de la experiencia en el caso de que el proveedor IA no realizase las actuaciones que le permitan dar cumplimiento a los requisitos, descritos en el art\u00edculo 11 del presente real decreto, en el plazo establecido en la convocatoria, dejando de formar parte del entorno controlado de pruebas previo el oportuno procedimiento.<\/p>\n\n\n\n En el supuesto de que el proveedor IA participante fuera obligado a abandonar la experiencia tambi\u00e9n lo tendr\u00eda que hacer, en el caso de que participase, el usuario del sistema de inteligencia artificial.<\/p>\n\n\n\n La finalizaci\u00f3n anticipada del entorno controlado de pruebas no dar\u00e1 lugar a indemnizaci\u00f3n alguna por parte del \u00f3rgano competente.<\/p>\n\n\n\n El \u00f3rgano competente, si as\u00ed lo considera conveniente para el resultado del entorno, podr\u00e1 cubrir mediante resoluci\u00f3n la posici\u00f3n liberada por la finalizaci\u00f3n anticipada de las pruebas con la siguiente entidad que hubiera solicitado la participaci\u00f3n de acuerdo con lo dispuesto en la convocatoria.<\/p>\n\n\n\n Pueden ponerse en contacto con este despacho profesional para cualquier duda o aclaraci\u00f3n que puedan tener al respecto.<\/p>\n\n\n\n Un cordial saludo,<\/p>","protected":false},"excerpt":{"rendered":" En el BOE del d\u00eda 9 de noviembre, se ha publicado el Real Decreto 817\/2023 que pone en marcha el entorno controlado de pruebas (\u201csandbox\u201d) del Reglamento Europeo de Inteligencia Artificial Le informamos que en el BOE del d\u00eda 9 de noviembre, se ha publicado el Real Decreto 817\/2023 por el que se habilita al […]<\/p>","protected":false},"author":2,"featured_media":4390,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"site-sidebar-layout":"default","site-content-layout":"default","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","theme-transparent-header-meta":"default","adv-header-id-meta":"","stick-header-meta":"default","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"default","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"footnotes":""},"categories":[19],"tags":[],"class_list":["post-4389","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-circulares"],"_links":{"self":[{"href":"https:\/\/pruymannconsulting.com\/cat\/wp-json\/wp\/v2\/posts\/4389","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/pruymannconsulting.com\/cat\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/pruymannconsulting.com\/cat\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/pruymannconsulting.com\/cat\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/pruymannconsulting.com\/cat\/wp-json\/wp\/v2\/comments?post=4389"}],"version-history":[{"count":1,"href":"https:\/\/pruymannconsulting.com\/cat\/wp-json\/wp\/v2\/posts\/4389\/revisions"}],"predecessor-version":[{"id":4391,"href":"https:\/\/pruymannconsulting.com\/cat\/wp-json\/wp\/v2\/posts\/4389\/revisions\/4391"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/pruymannconsulting.com\/cat\/wp-json\/wp\/v2\/media\/4390"}],"wp:attachment":[{"href":"https:\/\/pruymannconsulting.com\/cat\/wp-json\/wp\/v2\/media?parent=4389"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/pruymannconsulting.com\/cat\/wp-json\/wp\/v2\/categories?post=4389"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/pruymannconsulting.com\/cat\/wp-json\/wp\/v2\/tags?post=4389"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}