Cómo funciona la herramienta Crear archivo de conexión de servicio de IA

La herramienta Crear archivo de conexión de servicio de IA crea un archivo de conexión de servicio de IA (.ais) que almacena la información de conexión para un servicio de IA externo. Varios paquetes de aprendizaje profundo utilizan modelos de IA de terceros y necesitan acceder a servicios de IA alojados. Para utilizar estos servicios, cada proveedor requiere detalles como un punto final, el nombre del modelo o una clave API.

En lugar de introducir estos datos como argumentos del modelo cada vez, se puede utilizar un archivo .ais que contenga los parámetros de configuración. Esto también garantiza que los valores de los parámetros no se muestren en el panel Historial y se almacenen de forma segura utilizando la seguridad del sistema operativo. El archivo .ais no se puede compartir entre equipos o usuarios, ya que la herramienta almacena internamente las credenciales confidenciales en el Administrador de credenciales de Windows y las asocia con el sistema local y la cuenta de usuario.

El uso de este enfoque reduce el tiempo de configuración, evita errores y proporciona una forma segura y coherente de integrar servicios de IA externos con flujos de trabajo SIG.

Proveedores de servicios y configuración

La herramienta Crear archivo de conexión de servicio de IA admite varios proveedores de servicios de IA, y cada proveedor requiere detalles de configuración específicos. Estos detalles pueden incluir información general, como el nombre del modelo o el punto final, así como información confidencial, como claves API o tokens.

La herramienta proporciona un conjunto de parámetros de conexión necesarios para cada proveedor de servicios, que se especifican mediante el parámetro Parámetros de conexión. Los valores confidenciales, como las claves API o los tokens, se especifican mediante el parámetro Valor del parámetro secreto. Cualquier valor introducido en el parámetro Valor del parámetro secreto se trata como información confidencial y se guarda en el Administrador de credenciales de Windows, mientras que la información no confidencial se almacena en el archivo .ais.

Las siguientes secciones muestran los proveedores de servicios compatibles y sus respectivos parámetros de conexión:

Nota:

Cada proveedor de servicios viene con un conjunto predeterminado de parámetros de conexión, pero se pueden agregar parámetros adicionales según lo requiera un modelo o flujo de trabajo específico.

AWS

AWS proporciona modelos de IA a través de Bedrock y servicios relacionados. Esta opción incluye los siguientes parámetros de conexión:

• Clave de acceso: un identificador único asociado a su cuenta de AWS, que se utiliza para autenticar las solicitudes, por ejemplo: IAMAWSTESTKEY.
• Id. del modelo: el identificador del modelo específico alojado que desea utilizar, por ejemplo: amazon.titan-text-premier-v1:0
• Nombre de la región: la región de AWS donde se implementa su servicio, por ejemplo: us-east-1

Anthropic

Anthropic proporciona la familia de modelos Claude para tareas de texto y razonamiento. Esta opción incluye el parámetro de conexión de Model, que es el nombre del modelo Anthropic, por ejemplo: claude-3-opus.

Azure

Azure proporciona modelos OpenAI alojados en la empresa con implementaciones y versiones configurables. Esta opción incluye los siguientes parámetros de conexión:

• Endpoint URI—: la URL base de su servicio de Azure, por ejemplo: https://mytestazureopenai.openai.azure.com/
• Deployment Name: el nombre de la implementación del modelo que ha creado en Azure, por ejemplo: gpt-4o
• API Version: la versión de la API de OpenAI Azure a la que se dirige, por ejemplo: 2024-05-01

Hugging Face

Hugging Face aloja miles de modelos de código abierto para texto, visión y IA multimodal. Esta opción incluye los parámetros de conexión de Model ID, que es el identificador del modelo que desea utilizar del Hugging Face Hub, por ejemplo: facebook/detr-resnet-50.

OpenAI

OpenAI proporciona modelos para tareas de lenguaje, razonamiento y multimodales. Esta opción incluye los parámetros de conexión de Model, que es el nombre del modelo que desea utilizar, por ejemplo: gpt-4o-mini.

Google

Vertex AI de Google Cloud proporciona modelos básicos para tareas de texto, chat y visión. Esta opción incluye los siguientes parámetros de conexión:

• Project ID: el identificador del proyecto de Google Cloud, por ejemplo: my-gcp-project
• Region: la ubicación donde se aloja el servicio, por ejemplo: us-central1
• Model Name: el identificador del modelo específico que desea utilizar, por ejemplo: text-bison

Otros

La opción Others admite conexiones con otros proveedores. Defina sus propios nombres y valores de parámetros para que coincidan con los requisitos de la API del proveedor.

• Custom endpoint: el punto final personalizado, por ejemplo: https://example.ai/api
• Model: el nombre del modelo, por ejemplo: my-custom-model

Archivo AIS y gestión de credenciales

Un archivo .ais contiene detalles de conexión, como nombres de modelos, puntos finales y regiones. Estos valores se incluyen en el archivo .ais en un formato estructurado..

A continuación se muestra un archivo .ais de ejemplo:

{
  "version": "1.0",
  "serviceProvider": "AWS",
  "protocol": "",
  "host": "",
  "authenticationScheme": "accessToken",
  "authenticationProperties": {
    "parameterType": "header",
    "parameterName": "aws_secret_key"
  },
  "authenticationSecrets": {
    "token": "test1234api567key89"
  },
  "serviceProviderProperties": {
    "aws_access_key": " IAMAWSTESTKEY ",
    "model_id": " amazon.titan-text-premier-v1:0",
    "aws_region_name": "us-west-2"
  }
}

Las credenciales confidenciales, como las claves API o los tokens, no se escriben directamente en el archivo .ais. En su lugar, el archivo solo almacena una referencia a través de la clave authenticationSecrets, mientras que los valores reales se guardan de forma segura en el Administrador de credenciales de Windows. Esto garantiza que la información confidencial nunca salga del equipo local y no pueda quedar expuesta al abrir el archivo .ais.

Dado que el archivo hace referencia a entradas de credenciales específicas del equipo, un archivo .ais no se puede compartir entre usuarios o equipos. Si se copia a otro equipo, no funcionará a menos que se vuelvan a introducir las mismas credenciales y se guarden localmente mediante la herramienta Crear archivo de conexión de servicio de IA.

Utilice el archivo .ais.

El archivo .ais guardado se puede proporcionar como entrada a modelos de IA de terceros a través de sus argumentos de modelo. El modelo lee el archivo .ais, extrae los detalles de configuración necesarios (como los parámetros de conexión y las credenciales) y los utiliza para establecer una conexión con el proveedor de servicios alojado.

Cada modelo de terceros que admite archivos .ais espera un conjunto definido de parámetros de conexión. Si los parámetros del archivo .ais no coinciden con los que requiere el modelo, la conexión fallará y es posible que el modelo no funcione como se espera.