Вакансия AI системний інженер-програміст

Skills

• С++
• Python
• PyTorch
• TensorFlow
• Docker
• Git
• CUDA
• cuDNN
• NVIDIA Jetson Nano
• ONNX
• TensorRT
• AI

Описание вакансии

Обов’язки:

• Перенесення рішення:
  • Очолювати зусилля з перенесення існуючих рішень машинного навчання на апаратне забезпечення NVIDIA Jetson, забезпечуючи сумісність та стабільність.
  • Співпрацювати з інженерами машинного навчання для розуміння тонкощів моделей та алгоритмів, що переносяться.
• Оптимізація продуктивності:
  • Оптимізація моделей машинного навчання та алгоритмів для використання унікальних апаратних можливостей NVIDIA Jetson, таких як прискорення GPU, для підвищення продуктивності та ефективності.
  • Впровадження оптимізацій, таких як квантування моделей, обрізання та конвертація TensorRT, для покращення швидкості інферування та зменшення розміру моделей.
• Інтеграція та тестування:
  • Інтеграція оптимізованих моделей у цільове апаратне середовище, забезпечуючи безперебійну роботу в рамках існуючої екосистеми клієнта.
  • Проведення ретельного тестування та валідації для виявлення та вирішення будь-яких вузьких місць продуктивності або проблем сумісності.
• Співпраця та комунікація:
  • Виступати як основна ланка між командою машинного навчання та спеціалістами з апаратного забезпечення, сприяючи чіткій комунікації та співпраці між цими дисциплінами.

Вимоги:

• Машинне навчання та глибинне навчання: Ґрунтовне розуміння принципів, алгоритмів та архітектур машинного та глибинного навчання. Знання різних моделей, включаючи, але не обмежуючись, CNN, RNN та трансформерами у різних застосуваннях, таких як обробка зображень, обробка природної мови та предиктивна аналітика.
• Конвертація та оптимізація моделей: Експертиза у конвертації моделей машинного навчання у формат ONNX для забезпечення інтероперабельності та подальшої оптимізації їх з використанням NVIDIA TensorRT для високопродуктивного інферування на пристроях NVIDIA Jetson.
• Платформи NVIDIA Jetson: Практичний досвід роботи з NVIDIA Jetson Nano, TX2, Xavier NX або AGX Xavier, включаючи налаштування, конфігурацію та оптимізацію продуктивності. Знання програмного стеку Jetson, включаючи JetPack SDK.
• Управління залежностями: Вміння вирішувати питання залежностей та сумісності під час конвертації та розгортання моделей, включаючи версії бібліотек, CUDA та cuDNN.
• Мови програмування: Сильні навички програмування на C++, з досвідом роботи з Python як додаткова перевага. Вміння використовувати PyTorch, TensorFlow або інші фреймворки глибинного навчання для розробки та тренування моделей.
• Середовище та інструменти: Знання Docker та віртуальних середовищ для управління залежностями проекту. Досвід роботи з системами контролю версій, бажано Git, для спільної роботи з кодом та версіювання.

Бажано:

• Програмні рішення для Edge AI: Розуміння концепцій Edge AI та досвід у розгортанні AI рішень на пристроях, оптимізованих для низького споживання енергії та затримки.
• Попередня обробка даних: Навички у розширенні, попередній обробці та трансформації даних для підготовки наборів даних для ефективного тренування та інферування на пристроях.
• Бенчмаркінг: Досвід у проведенні бенчмарків для вимірювання продуктивності моделей (наприклад, швидкість інферування, точність, споживання енергії) на платформах NVIDIA Jetson.
• Виявлення та усунення несправностей: Здатність виявляти та виправляти апаратні та програмні проблеми, включаючи вузькі місця продуктивності та обмеження пам’яті на пристроях.