Реальний сценарій використання
Інструмент працює не як абстрактна демонстрація, а як практичний помічник у щоденних робочих задачах, де потрібне швидке формування технічного рішення на основі контексту кейсу.
Ініціатива полягає у розвитку практичного AI-інструменту, який уже має робочий прототип і може бути масштабований у повноцінне рішення для автоматизації внутрішніх процесів, аналізу кейсів та генерації технічних рішень у межах реальних робочих задач.
Зараз уже реалізовано практичний use case: розширення для браузера аналізує відкриту вкладку хелпдеску, формує дію для користувача, відправляє запит на локальний сервер з LLM і повертає готовий технічний результат для подальшого використання в роботі.
Інструмент працює не як абстрактна демонстрація, а як практичний помічник у щоденних робочих задачах, де потрібне швидке формування технічного рішення на основі контексту кейсу.
Запити виконуються через домашній сервер із локально розгорнутою моделлю, що створює основу для безпечного тестування AI-підходів без використання публічних зовнішніх сервісів.
Поточний функціонал можна розширити до аналізу звернень, допомоги з технічною логікою, генерації шаблонних рішень, внутрішніх підказок та інших допоміжних інструментів.
Ключове обмеження зараз не в самій ідеї, а в апаратних ресурсах. Поточний сервер дозволяє запускати лише відносно обмежені моделі, через що складніші задачі або працюють повільно, або не дають того рівня якості, який уже потрібен для подальшого розвитку.
Проєкт вигідний одразу в двох напрямах: з одного боку це мій професійний розвиток і побудова прикладного AI-рішення, а з іншого — для компанії це спосіб протестувати практичні AI-сценарії без прямого інвестування власних коштів у стартову інфраструктуру.
Ідею можна позиціонувати не як запит на купівлю техніки, а як розвиток прикладного AI-рішення для автоматизації робочих процесів. Тобто апаратне забезпечення в цьому випадку виступає інструментом для створення та розвитку продукту, а не самоціллю.
Після посилення інфраструктури проєкт можна розвивати в кількох прикладних напрямах, починаючи з уже готового сценарію і поступово переходячи до складніших AI-інструментів.
Для запуску сильніших локальних моделей доцільно розглядати продуктивну Apple Silicon станцію з великим обсягом unified memory. У межах цієї ідеї вона потрібна як робочий інструмент для розвитку локального AI-середовища.