Обработка массива данных .csv
Рекомендую.
Железо Core I5 2,4 11Gen, 16Gb.
Есть массив данных, файл .csv. Состоит из нескольких столбцов c произвольными названиями латиницей. Количество строк 500к+.
В результате необходимо рассчитать и дописать в файл еще три столбца.
Столбец S1, cкользящая средняя значений столбца D, выборка за N1 строк
Столбец S2, cкользящая средняя значений столбца D, выборка за N2 строк
Результирующий столбец Z, заполняется по условиям и формулам:
Если условие1 [S1+S2>10] И условие2 [S1*D>k/6-30] соблюдаются
то Z=D, иначе Z=пусто
где S1,S2,D - значение соответствующих столбцов, k - коэффициент.
Как это должно выглядеть в идеале (скрин):
_____________
Диалоговое окно с выбором файла.
Окно ввода значений N1=[ ], N2=[ ], k=[ ]
Окно присвоения переменных столбцам: [название столбца] = [переменная]
Опционно:
Окно ввода значений условия1: [левая часть] [знак <>=] [правая часть]
Окно ввода значений условия2: [оператор перед условием2: И/ИЛИ] [левая часть] [знак <>=] [правая часть]
Окно ввода значений условия3: [учитывать ли условие] [оператор перед условием3: И/ИЛИ] [левая часть] [знак <>=] [правая часть]
Окно ввода значений условия4: [учитывать ли условие] [оператор перед условием4: И/ИЛИ] [левая часть] [знак <>=] [правая часть]
- формулы 3 и 4 будут учитываться в отдельных случаях, в основном учитываются формулы 1 и 2, галочка выбора
- в левой и правой части условий можно указывать: цифры, скобки, знаки (+-/*) и значения столбцов в виде переменных (S1, S2, A,B,C,D,E)
- знак между частями: <, >, >=, <=
кнопка "Заполнить"
________________
Это идеальный вариант. По умолчанию рассматриваем базовый вариант.
В базовом варианте условия можно редактировать и дополнять в коде - не проблема, это делается редко.
Цель задания: После введения значений N1, N2, k и названий переменных столбцов, нажатия кнопки "Заполнить" система рассчитывает и записывает данные в столбцы S1, S2, Z.
Основное требование: выполнение вычислений и заполнения файла с 500к строк в течении нескольких (2-3) минут, очень желательно одной минуты.
Проект интересует в базе. Но если опционная часть не сильно удорожит, то тоже нужно.
Железо Core I5 2,4 11Gen, 16Gb.
Есть массив данных, файл .csv. Состоит из нескольких столбцов c произвольными названиями латиницей. Количество строк 500к+.
В результате необходимо рассчитать и дописать в файл еще три столбца.
Столбец S1, cкользящая средняя значений столбца D, выборка за N1 строк
Столбец S2, cкользящая средняя значений столбца D, выборка за N2 строк
Результирующий столбец Z, заполняется по условиям и формулам:
Если условие1 [S1+S2>10] И условие2 [S1*D>k/6-30] соблюдаются
то Z=D, иначе Z=пусто
где S1,S2,D - значение соответствующих столбцов, k - коэффициент.
Диапазон значений N1 и N2 - до 2000
Как это должно выглядеть в идеале (скрин):
_____________
Диалоговое окно с выбором файла.
Окно ввода значений N1=[ ], N2=[ ], k=[ ]
Окно присвоения переменных столбцам: [название столбца] = [переменная]
Опционно:
Окно ввода значений условия1: [левая часть] [знак <>=] [правая часть]
Окно ввода значений условия2: [оператор перед условием2: И/ИЛИ] [левая часть] [знак <>=] [правая часть]
Окно ввода значений условия3: [учитывать ли условие] [оператор перед условием3: И/ИЛИ] [левая часть] [знак <>=] [правая часть]
Окно ввода значений условия4: [учитывать ли условие] [оператор перед условием4: И/ИЛИ] [левая часть] [знак <>=] [правая часть]
- формулы 3 и 4 будут учитываться в отдельных случаях, в основном учитываются формулы 1 и 2, галочка выбора
- в левой и правой части условий можно указывать: цифры, скобки, знаки (+-/*) и значения столбцов в виде переменных (S1, S2, A,B,C,D,E)
- знак между частями: <, >, >=, <=
кнопка "Заполнить"
________________
Это идеальный вариант. По умолчанию рассматриваем базовый вариант.
В базовом варианте условия можно редактировать и дополнять в коде - не проблема, это делается редко.
Цель задания: После введения значений N1, N2, k и названий переменных столбцов, нажатия кнопки "Заполнить" система рассчитывает и записывает данные в столбцы S1, S2, Z.
Основное требование: выполнение вычислений и заполнения файла с 500к строк в течении нескольких (2-3) минут, очень желательно одной минуты.
Как должна работать система: файл предназначен для другой программы, в ней идет визуализация данных и анализ. После анализа корректируются N1, N2, k, после файл пересчитывается, перезаписывается, подгружается и снова визуализация и анализ. И так циклически много раз. Поэтому кроме того что быстро, должно быть удобно.
Проект интересует в базе. Но если опционная часть не сильно удорожит, то тоже нужно.
Язык написания не принципиален.
Уточнил диапазон значений и описание работы системы, но машинально скопировал все.
Бюджет: 1000 UAH Срок: 2 дня
Готов выполнить задание.
Скорость расчётов сильно зависит от параметров н1 и н2. Уточните в каких диапазонах эти параметры будут?
Бюджет: 1500 UAH Срок: 2 дня
Добрый день. Могу написать программу под Windows, будет работать очень быстро. Ориентировочно, меньше 1 минуты вместе с записью в файл. Цена указана за базовый вариант. Написано будет на C#.
Бюджет: 1000 UAH Срок: 2 дня
Здравствуйте. Готов написать на c# WinForms приложение с использованием PostgreSQL.
На моём железе (i5-2520m / 8 Gb) подсчет простой скользящей средней из 1 миллиона double значений составило 21 мсек. С записью в файл менее секунды.
Также есть опыт разработки парсера математических формул (скобки, сложения, вычитания и т.д.).
О компании Торговая компания. Работаем с товарной группой более 2000 позиций по разным категориям.Текущая ситуация Сейчас номенклатура ведётся в Google Sheets — данные консолидированы по вкладкам (категориям). Структура вкладок: Наименование товара Группы цен: себестоимость, опт, розница Характеристики: вес, количество в упаковке и т.д. Важно: количество колонок отличается для разных категорий товаров, так как у них разные характеристики.Почему текущее решение не подходит Google Sheets не позволяет настраивать права доступа на уровне отдельных колонок. Нам нужно: Давать пользователям права на просмотр определённых колонок (например, только себестоимости) Давать права на редактирование определённых колонок (например, розничных цен) При этом ограничивать доступ к остальным колонкам в той же вкладкеЧто нужно сделатьОсновные требования Гибкая система разграничения прав Доступ на уровне отдельных колонок (чтение / запись) Назначение прав по ролям или пользователям Управление правами без участия программистов Поддержка разной структуры данных Разные категории товаров имеют разный набор характеристик Добавление новых колонок/характеристик без программирования Независимость от разработчиков Администрирование силами внутренних сотрудников Добавление категорий, колонок, пользователей — через интерфейс Интеграция с ERP Выгрузка актуальных цен в нашу ERP-систему Экспорт или автоматическая интеграция по API Анализ данных с помощью ИИ (желательно) Возможность анализа всего перечня номенклатуры Обогащение, проверка, рекомендации — если у вас есть идеи, опишитеОжидаемый результат Работающее решение, в котором: Номенклатура структурирована по категориям с разными наборами характеристик Права на колонки гибко настраиваются (просмотр / редактирование) Данные выгружаются в ERP Команда может управлять системой самостоятельноЧто нужно от вас при отклике Опишите в общих чертах, как вы видите решение: Какой инструмент / платформу предлагаете
Необходимо провести глубокую техническую проверку трех PDF-файлов на достоверность и возможные признаки редактирования или подделки. Нужна не только визуальная оценка документов. Исполнитель должен хорошо понимать внутреннюю структуру PDF-файлов и уметь анализировать: метаданные файлов; структуру PDF и отдельных объектов; историю создания и возможного редактирования; используемое программное обеспечение; встроенные шрифты, изображения, слои и другие элементы; возможные признаки повторного сохранения, конвертации, внесения изменений или формирования документа задним числом; любые технические несоответствия, которые могут свидетельствовать о манипуляциях с файлами. По результатам проверки необходимо предоставить понятный письменный вывод по каждому файлу с указанием выявленных признаков, рисков и ограничений проверки. Рассматриваем специалистов, имеющих практический опыт в цифровой криминалистике, анализе PDF-документов, метаданных или проверке электронных файлов на подлинность. В отзыве, пожалуйста, кратко опишите ваш опыт, методы и инструменты, которые вы используете для такой проверки.
Общая информация Необходимо разработать простую минималистичную вебсистему, основной целью которой является ведение базы клиентов, создание записей на визиты и автоматизация процесса подтверждения визитов через SMS, отправка одноразовых ссылок через API с самого сервиса. Проект разрабатывается поэтапно. На первом этапе необходимо реализовать лишь базовую функциональность (MVP), чтобы систему можно было использовать в реальной работе. После запуска и тестирования она будет постепенно расширяться новыми модулями.Основная функциональность первого этапа авторизация пользователей; база клиентов; создание и редактирование записей; список записей (или простой календарь); переключение между торговыми точками; интеграция с SMS-оператором через API; отправка SMS с произвольным текстом или ссылкой для подтверждения визита; подтверждение или отмена визита клиентом по одноразовой ссылке; отображение статуса подтверждения непосредственно рядом с записью клиента. На начальном этапе вместо полноценного календаря допускается использование простого списка записей по дням. Каждый день должен содержать хронологический список бронирований с указанием времени, имени клиента, услуги, работника и статуса подтверждения. В дальнейшем этот список можно будет заменить на полноценный календарь без изменения структуры системы. В системе должна быть возможность переключаться между торговыми точками. Каждая торговая точка имеет собственный список записей (или календарь), но все они используют общую базу клиентов.
Копирование базы и фронта для базы (Сейчас частично скопирован фронт и некоторые характеристики, но неправильно. Парсер заполнил базу своими характеристиками) Синхронизация парсера с базой и характеристиками базы Исправить баг агента парсера Обрезка фото пропорционально водяному знаку, которые падают с парсера Работа буфера с новой базой и инструментов с объектами данной базы Исправление незначительных багов: например, текст попапов или мелкие моменты на фронте, баги, которые появятся во время выполнения задач Подключение нового хранилища для хранения медиа Логи перестали записываться в таблицу финансовых операций, что насчет страниц баланса и тарифного плана (оплата тарифа, пополнение счета (успешно/нет)) Проверить еще раз работу оплаты и после заменить тестовый API биллинга от монобанк на реальный Дополнить права доступа для пользователя администратора баз Сейчас есть зависшие процессы, которые загружают сервер, нужно это проверить Логика комментариев и заметок сейчас работает неправильно, нужно, чтобы для одного и того же объекта в 2 базах - комментарии были привязаны к каждой базе, а не к объекту, источником которого является объект данной базы (Более детально смогу объяснить в личных) Зафиксировать в базах правильную сортировку (Сейчас от первого добавленного до последнего. Нужно наоборот, функционал сортировки создан) Проверить и исправить корректность фильтров в базах, возможно добавить ограничения на фильтрацию при больших объемах данных
Добрый день. Ищу для себя ментора по Linux. У меня есть опыт в качестве strong junior devops специалиста, но Linux и Kubernetes мои слабые места. Если с Kubernetes опыт с проектами еще небольшой, то с Linux взаимодействие очень поверхностное. Что-то создать, добавить, переименовать, открыть и т.п. - этого явно недостаточно. Нужен ментор, который меня подтянет в этом вопросе. Просто главная задача сделать так, чтобы знания осели в голове, возможно какой-то пет-проект, задачи, таски что-то в таком духе, а не просто "повторяй за мной". Проходил курсы самостоятельно, но они особенно "не оседают" в голове. Вот приблизительный список, что, на мой взгляд, мне нужно: - Linux/Unix системы — углубленное администрирование операционных систем, файловые системы, управление пользователями и правами доступа, процессами и службами (systemd), Bash-скриптинг, журналирование, мониторинг, настройка безопасности, автоматизация административных задач; - Сетевые технологии — модель OSI и стек TCP/IP, DNS, HTTP/HTTPS, SSL/TLS, SSH, VPN, балансировка нагрузки, прокси-серверы, NAT, маршрутизация, сетевые утилиты (ping, traceroute, netstat, ss, tcpdump, curl), диагностика и устранение сетевых проблем; Если к этому списку можно еще будет добавить Kubernetes, то лишним не будет. Возможно что-то от себя предложите. Формат занятий, как я вижу - 2 раза в неделю, встречи, обсуждения консультации. Более детально, тут уже ваши идеи и предложения. По стоимости за час, или за месяц - предлагайте