Бюджет: 5500 USD Термін: 15 днів
Привіт, Дарлене.
Мене звуть Хіросі, я інженер бекенду, який створює виробничі AI-системи.
У звіті про відповідність є поле доходу, яке позначено для редагування, робочий процес валідації акуратно маскує його в збереженому записі, а слід аудиту виглядає чистим, за винятком того, що сирий не замаскований текст вже вийшов через мережу до моделі до того, як щось було токенізовано, тому експозиція вже відбулася, і жоден запис у журналі цього не показує.
Я розумію, про що насправді йдеться в цій ролі.
Вам не потрібен інженер з підказок, вам потрібна справжня бекендна система, де Клод здійснює семантичне судження, а ваш код відповідає за валідацію, обробку чутливих даних, цілісність аудиту та людське схвалення навколо цього.
Те, що я б побудував, — це повний робочий процес.
Я отримую подання через ваш API платформи, проводжу семантичні аудити на предмет суперечностей, відсутньої інформації та непідтримуваних заяв, перехресно перевіряю структуровані відповіді з наративним текстом, застосовую ваші редакційні та бізнес-правила, і маршрутизую кожен документ на автоматичне схвалення, людський перегляд або назад до подавача, все це підтримується Postgres, чергами завдань та вебхуками.
Є момент, який варто вирішити перед обробкою першого документа.
Маскування має відбуватися до того, як сирий текст коли-небудь залишить вашу інфраструктуру в напрямку моделі, а не лише перед зберіганням, оскільки сам виклик API є точкою експозиції, і слід аудиту має зберігати лише замасковану версію, ніколи оригінал, інакше слід стане найбільшою поверхнею витоку в системі. Така ж обережність стосується порогів впевненості, оскільки заявлена впевненість моделі не є каліброваною ймовірністю, тому автоматичне схвалення потрібно налаштувати на основі зразка, позначеного людиною, а не довіряти йому на око.
Я працював CTO та аудитором у MoveSave, фінансовій платформі, побудованій на незмінному реєстрі з повною трасованістю та суворим обробленням облікових даних і чутливих даних, тією ж проблемою аудиту та довіри, яку потребує цей робочий процес, і Клод та інші API LLM вже працюють у моїй роботі.
Сподіваюся, ми зможемо обговорити деталі проекту тут, і одне питання допомогло б уточнити мій план.
Яким є API платформи джерела для запису затвердженого контенту назад, один кінцевий пункт на тип документа чи спільна схема?
Цінність тут не в переписуванні, а в сліді рішень, яким людина може довіряти, не перечитуючи все, і саме це я б побудував.