У меня есть приложение, которое анализирует аудиочаты между людьми. На основе разговора можно получить рейтинги благонадежности, харизмы, грамматики и так далее. Оценки как пользователя приложения, так и людей, с которыми он разговаривает. На базовом уровне, если анализ данных проводится только в рамках одной аудиозаписи (5-120 минут) - все работает хорошо, GPT даст правильный ответ на правильный вопрос. Но теперь задача состоит в том, как объединить все транскрипты из аудио вместе и уже давать анализ на основе всех встреч с конкретным собеседником.
Например, текущий флагман GPT - 4 принимает не более 128k токенов, что составляет минимум $1,28 за запрос. 128 тыс. токенов - это всего лишь около 10 часов чистой речи. Вопрос в том, что если пользователь записывает свои разговоры в течение месяца или года, как мне подать такой объем в модель для анализа настроений? Теоретически, я знаю, что есть методы суммирования, выборочного анализа в связке с векторными базами данных + всегда можно подавать запросы отдельными кусками по 128к токенов, что будет еще дороже. Но это только общие советы. Мне нужен человек с практическим опытом в этой области.
Так что если вы знаете лучшую практику, как скормить GPT с большим количеством данных для каждого собеседника, пожалуйста, дайте мне знать, и мы сможем поработать вместе.
Бюджет: 500-700$
