Ciclo de vida del modelo AI/ML y recopilación de datos

A la luz de la inminente aplicación de la Ley de la Inteligencia Artificial en la UE, se hace cada vez más relevante la seguridad, la transparencia de datos y la protección de datos.

Si bien el enfoque inicial puede estar en modelos más grandes, se espera que los modelos más pequeños también estén sujetos a estas consideraciones en fases posteriores. En consecuencia, se espera que los científicos de datos ya no desarrollen modelos de ML en sus máquinas locales.

Teniendo en cuenta estas consideraciones, Red Hat OpenShift AI ofrece una solución integral para hacer frente a estos desafíos, ayudando a minimizar la necesidad de refactorización organizativa o alteraciones de procesos tras la aplicación de la Ley de la IA u otras regulaciones pertinentes relativas a la formación y despliegue de modelos de ML.

Red Hat OpenShift AI, junto con OpenShift y OpenShift application foundations, surge como una solución viable para establecer una plataforma API segura para la recopilación de datos (por ejemplo, desarrollo e implementación de aplicaciones) y un entorno con seguridad coherente para el entrenamiento de modelos ML, lo que ayuda a salvaguardar todo el ciclo de vida. Esta solución es aplicable tanto in on-premise como en la nube pública, lo que facilita la capacidad de entrenar, desplegar y supervisar modelos en un entorno local, una característica crítica para el manejo de datos altamente sensibles como la información sanitaria y financiera.

Finalmente, es necesario proteger tanto los datos como los modelos entrenados con esos datos, sobre todo cuando se trata de datos muy sensibles, ya que el acceso no autorizado o los prompts maliciosos (por ejemplo, jailbreak) podrían poner en peligro la confidencialidad de la información utilizada para el entrenamiento del modelo.

Maarten Vandeperre, specialist solution architect, Application Services, Red Hat

M. Vandeperre de Red Hat