Перейти до вмісту
Blackbird API

Google Vertex AI

Переглянути на Github

Vertex AI — це комплексна платформа, яка надає доступ до потужних мультимодальних моделей, таких як Gemini від Google, що дозволяє розробникам безперешкодно комбінувати різні вхідні дані, як-от текст, зображення, відео чи код. З різноманітним вибором моделей Vertex AI полегшує налаштування та інтеграцію, дозволяючи розробляти та розгортати ШІ-додатки. Платформа пропонує генеративні ШІ-моделі, повністю керовані інструменти та спеціалізовані рішення MLOps для оптимізації всього життєвого циклу машинного навчання — від навчання та налаштування до розгортання та моніторингу.

Перед налаштуванням

Перш ніж підключитися, переконайтеся, що:

Створення сервісного облікового запису та генерування ключів JSON

  1. Перейдіть до вибраного або створеного проєкту Cloud Platform.
  2. Перейдіть до розділу IAM & Admin.
  3. На лівій панелі виберіть Service accounts.
  4. Натисніть Create service account.
  5. Введіть ім’я сервісного облікового запису та, за бажанням, опис. Натисніть Create and continue. Виберіть роль Vertex AI Administrator або Vertex AI User для сервісного облікового запису та натисніть Continue. Створення сервісного облікового запису
  6. Натисніть Done.
  7. У списку сервісних облікових записів виберіть щойно створений сервісний обліковий запис і перейдіть до розділу Keys.
  8. Натисніть Add key => Create new key. Виберіть тип ключа JSON і натисніть Create.
  9. Відкрийте завантажений файл JSON і скопіюйте його вміст, який буде використовуватися в параметрі з’єднання Service account configuration string.

Підключення

  1. Перейдіть до додатків і знайдіть Google Vertex AI. Якщо ви не можете знайти Google Vertex AI, натисніть Add App у верхньому правому куті, виберіть Google Vertex AI і додайте додаток до свого середовища Blackbird.
  2. Натисніть Add Connection.
  3. Назвіть ваше з’єднання для подальшого використання, наприклад, “Моя організація”.
  4. Заповніть рядок конфігурації JSON, отриманий на попередньому кроці.
  5. Натисніть Connect.
  6. Переконайтеся, що з’єднання з’явилося, а статус — Connected.

Підключення

Примітка: Наразі додаток працює з моделями, що зберігаються в розташуванні us-west1. Якщо у вас інші вимоги, повідомте нам про це!

Actions

  • Generate text with Gemini генерує текст за допомогою моделі Gemini. Якщо генерація тексту базується на одному запиті, вона виконується за допомогою моделі gemini-1.0-pro. Додатково ви можете вказати зображення або відео для генерації за допомогою моделі gemini-1.0-pro-vision. Зображення та відео мають обмеження розміру до 20 МБ. Якщо зображення вже присутнє, відео не можна вказати і навпаки. Підтримувані формати зображень — PNG та JPEG, а відеоформати — MOV, MPEG, MP4, MPG, AVI, WMV, MPEGPS та FLV. Додатково встановіть Is Blackbird prompt на True, щоб вказати, що запит, наданий дії, є результатом однієї з дій додатка AI Utilities. Ви також можете вказати категорії безпеки в параметрі вводу Safety categories та відповідні пороги для них у параметрі вводу Thresholds for safety categories. Якщо один список має більше елементів, ніж інший, зайві ігноруються.

  • Get Quality Scores for XLIFF file Отримує оцінки якості на рівні сегментів та файлів для файлів XLIFF. Додатково ви можете додати параметри вводу Threshold, New Target State та Condition до дії Blackbird, щоб змінити значення цільового стану сегментів, які відповідають бажаним критеріям (усі три мають бути заповнені).

    Додаткові параметри:

    • Prompt: Додайте ваші критерії для оцінювання кожної пари джерело-ціль. Якщо критерії не вказані, використовується “accuracy, fluency, consistency, style, grammar and spelling”.
    • Bucket size: Кількість перекладацьких одиниць для обробки в одному запиті. (Див. окремий розділ)
    • Source and Target languages: За замовчуванням ці значення отримуються з заголовка XLIFF. Ви можете надати інші значення, специфічний формат не потрібен.
    • Threshold: значення від 0 до 10.
    • Condition: Критерії для фільтрації сегментів, цільовий стан яких буде змінено.
    • New Target State: значення для оновлення цільового стану для відфільтрованих перекладацьких одиниць.

    Результат:

    • Average Score: агрегована оцінка всіх оцінок на рівні сегментів.
    • Updated XLIFF file: оцінка на рівні сегмента додана до атрибута extradata та оновлений цільовий стан, якщо вказано.

  • Post-edit XLIFF file Оновлює цілі файлу XLIFF

    Додаткові параметри:

    • Prompt: Додайте ваші лінгвістичні критерії для постредагування цілей.
    • Bucket size: Кількість перекладацьких одиниць для обробки в одному запиті. (Див. окремий розділ)
    • Source and Target languages: За замовчуванням ці значення отримуються з заголовка XLIFF. Ви можете надати інші значення, специфічний формат не потрібен.
    • Glossary

  • Process XLIFF file обробляє кожну перекладацьку одиницю у наданому файлі XLIFF відповідно до наданих інструкцій (за замовчуванням — переклад вихідних тегів) та оновлює цільовий текст для кожної одиниці.

Зауважте, що всі дії з XLIFF підтримують версії 1.2 та 2.1 формату XLIFF, оскільки ці версії найчастіше використовуються в галузі. Якщо у вас інша версія, повідомте нам, і ми розглянемо можливість додавання підтримки для неї.

Розмір партії, продуктивність і вартість

Файли XLIFF можуть містити багато сегментів. Кожна дія бере ваші сегменти та надсилає їх до додатка ШІ для обробки. Можливо, що кількість сегментів настільки велика, що запит перевищує контекстне вікно моделі або модель потребує більше часу, ніж дозволено діям Blackbird. Саме тому ми ввели параметр розміру партії. Ви можете налаштувати параметр розміру партії, щоб визначити, скільки сегментів надсилати до моделі ШІ одночасно. Це дозволить вам розділити робоче навантаження на різні API-виклики. Компроміс полягає в тому, що той самий контекстний запит потрібно надсилати з кожним запитом (що збільшує використані токени). З експериментів ми виявили, що розмір партії 1500 достатній для моделей, таких як gpt-4o. Тому 1500 — це розмір партії за замовчуванням, однак інші моделі можуть вимагати різних розмірів партій.

Зворотний зв’язок

Хочете використовувати цей додаток або маєте відгуки щодо нашої реалізації? Зв’яжіться з нами через встановлені канали або створіть проблему.