Инструмент Создать файл подключения сервиса ИИ создает файл подключения к сервису ИИ (.ais), в котором хранится информация о подключении к внешнему сервису ИИ. Несколько пакетов глубокого обучения используют сторонние модели ИИ и нуждаются в доступе к размещенным сервисам ИИ. Чтобы использовать эти сервисы, каждому поставщику требуются такие сведения, как конечная точка, название модели или ключ API.
Вместо того чтобы каждый раз вводить эти данные в качестве аргументов модели, можно использовать файл .ais, содержащий параметры конфигурации. Это также гарантирует, что значения параметров не будут отображаться на панели История и будут надежно сохранены с помощью системы безопасности ОС. Файл .ais недоступен для совместного использования на разных компьютерах или пользователями, поскольку инструмент хранит конфиденциальные учетные данные в Диспетчере учетных данных Windows и связывает их с локальной системой и учетной записью пользователя.
Использование такого подхода сокращает время настройки, позволяет избежать ошибок и обеспечивает безопасный и согласованный способ интеграции внешних сервисов ИИ с рабочими процессами ГИС.
Поставщики услуг и конфигурация
Инструмент Создать файл подключения сервиса ИИ поддерживает несколько поставщиков сервисов ИИ, и для каждого поставщика требуются определенные сведения о конфигурации. Эти сведения могут включать общую информацию, такую как название модели или конечная точка, а также конфиденциальную информацию, такую как ключи API или токены.
Инструмент предоставляет набор необходимых параметров подключения для каждого поставщика услуг, которые задаются с помощью параметра Параметры подключения. Конфиденциальные значения, такие как ключи API или токены, указываются с помощью параметра Значение секретного параметра. Любое значение, введенное в поле Значение секретного параметра, рассматривается как конфиденциальная информация и сохраняется в Диспетчере учетных данных Windows, в то время как конфиденциальная информация хранится в файле .ais.
В следующих разделах приведены поддерживаемые поставщики услуг и соответствующие параметры их подключения::
Примечание:
Каждый поставщик услуг предоставляет набор параметров подключения по умолчанию, но дополнительные параметры могут быть добавлены в соответствии с требованиями конкретной модели или рабочего процесса.
AWS
AWS предоставляет модели ИИ через Bedrock и сопутствующие сервисы. Эта опция включает в себя следующие параметры подключения:
- Ключ доступа — уникальный идентификатор, связанный с вашей учетной записью AWS, который используется для проверки подлинности запросов, например: IAMAWSTESTKEY.
- ID модели — идентификатор конкретной размещенной модели, которую вы хотите использовать, например: amazon.titan-text-premier-v1:0
- Имя региона — регион AWS, в котором развернут ваш сервис, например: us-east-1
Anthropic
Anthropic предоставляет семейство моделей Claude для текстовых задач и задач рассуждения. Эта опция включает в себя параметр подключения Model, а именно название модели Anthropic, например: claude-3-opus.
Azure
Azureпредоставляет корпоративные модели OpenAI с настраиваемыми развертываниями и версиями. Эта опция включает в себя следующие параметры подключения:
- Endpoint URI — базовый URL вашего сервиса Azure, например: https://mytestazureopenai.openai.azure.com/
- Deployment Name — имя развертывания модели, которое вы создали в Azure, например: gpt-4o
- API Version — версия Azure OpenAI API, на которую вы ориентируетесь, например: 2024-05-01
Hugging Face
На Hugging Face размещены тысячи моделей с открытым исходным кодом для текстового, визуального и мультимодального ИИ. Эта опция включает параметры подключения Model ID, а именно идентификатор модели, которую вы хотите использовать в Hugging Face Hub, например: facebook/detr-resnet-50.
OpenAI
OpenAI предоставляет модели для решения языковых задач, задач рассуждения и мультимодальных задач. Эта опция включает в себя параметры подключения Model, а именно название модели, которую вы хотите использовать, например: gpt-4o-mini.
Google Cloud’s Vertex AI предоставляет базовые модели для текстовых задач, общения в чате и визуализации. Эта опция включает в себя следующие параметры подключения:
- Project ID — идентификатор проекта Google Cloud, например: my-gcp-project
- Region — местоположение, в котором размещен сервис, например: us-central1
- Model Name — идентификатор конкретной модели, которую вы хотите использовать, например: text-bison
Другие
Опция Others поддерживает подключение к другим провайдерам. Определите свои собственные имена и значения параметров в соответствии с требованиями API поставщика.
- Custom endpoint — пользовательская конечная точка, например: https://example.ai/api
- Model — имя модели, например: my-custom-model
Управление файлами и учетными данными AIS
Файл .ais содержит сведения о подключении, такие как названия моделей, конечные точки и регионы. Эти значения включены в файл .ais в структурированном формате..
Вот пример файла .ais:{
"version": "1.0",
"serviceProvider": "AWS",
"protocol": "",
"host": "",
"authenticationScheme": "accessToken",
"authenticationProperties": {
"parameterType": "header",
"parameterName": "aws_secret_key"
},
"authenticationSecrets": {
"token": "test1234api567key89"
},
"serviceProviderProperties": {
"aws_access_key": " IAMAWSTESTKEY ",
"model_id": " amazon.titan-text-premier-v1:0",
"aws_region_name": "us-west-2"
}
}
Конфиденциальные учетные данные, такие как ключи API или токены, не записываются непосредственно в файл .ais. Вместо этого в файле хранится только ссылка с помощью ключа authenticationSecrets, в то время как фактические значения надежно хранятся в Диспетчере учетных данных Windows. Это гарантирует, что конфиденциальная информация никогда не покинет локальный компьютер и не может быть раскрыта при открытии файла .ais.
Поскольку файл ссылается на записи учетных данных, относящиеся к конкретному компьютеру, общий доступ к файлу .ais между пользователями или компьютерами невозможен. При копировании на другой компьютер он не будет работать, если те же учетные данные не будут повторно введены и сохранены локально с помощью инструмента Создать файл подключения сервиса ИИ.
Используйте файл .ais
Сохраненный файл .ais может быть предоставлен в качестве входных данных сторонним моделям ИИ с помощью их аргументов модели. Модель читает файл .ais, извлекает необходимые сведения о конфигурации (такие как параметры подключения и учетные данные) и использует их для установления соединения с размещенным поставщиком сервиса.
Каждая сторонняя модель, поддерживающая файлы .ais, требует определенного набора параметров подключения. Если параметры в файле .ais не соответствуют требованиям модели, произойдет сбой подключения, и модель может работать не так, как ожидалось.