Přednáška

RAG in Practice: Enhancing Oracle NetSuite with Retrieval-Augmented Generation

16:30 - 16:55Místnost E112

In this talk, we share our journey of designing and deploying a Retrieval-Augmented Generation (RAG) solution for Oracle NetSuite, deployed in Oracle Cloud Infrastructure (OCI). The system integrates Cohere LLM models from OCI Generative AI with vector search powered by OpenSearch. We’ll explore our initial implementation over NetSuite’s documentation, the challenges we faced in software development lifecycle, model approvals, security and compliance, as well as infrastructure considerations like load balancing and multi–data center deployments. Finally, we’ll discuss our ongoing efforts to generalize the RAG framework to support diverse use cases across the platform.

Přednášející

Dominik Harmim

Dominik je absolvent bakalářského i magisterského studijního programu na FIT VUT v Brně, kde se zaměřoval nejen na verifikaci a testování software. Dále na FITu studoval i doktorský studijní program ve výzkumné skupině automatizované analýzy a verifikace. Ph.D. studium se nicméně rozhodl po 3 letech ukončit. Této cenné zkušenosti si i přes to velmi váží. Měl díky tomu např. možnost experimentovat se statickou analýzou na půlroční stáži v Amazon Web Services v týmu Kernel and Operating Systems Security. Po profesní stránce má Dominik např. 6 let zkušeností jako backend vývojář velkých e-commerce systémů. Momentálně pracuje už cca 2 roky jako Principal Software Engineer v AI týmu v Oracle NetSuite. Jeho hlavním cílem je přiblížit AI zákazníkům a pomoct jim dělat jejich práci efektivněji. Mimo AI oblast se Dominik také zajímá o psaní udržovatelného kódu, kvalitu software nebo třeba o kybernetickou bezpečnost. Ve volném čase rád cestuje, sportuje a věnuje se dobrovolnické činnosti.

Lukáš Dobiš

Lukáš absolvoval program biomedicínského inženýrství na VUT FEKT v Brně a během COVIDu si dodatečně dokončil další magisterský program se zaměřením na strojové učení na VUT FIT v Brně. Během studií se převážně věnoval zpracování obrazových dat a postupně se plně zaměřil na pokroky v současné AI v oblasti neuronových sítí. Pracovně absolvoval internship v R&D týmu ve firmě Thermo Fisher Scientific, kde analyzoval artefakty ve snímcích elektronové mikroskopie. Dále ve vesmírném startupu Zaitra pracoval na návrhu neuronových sítí pro segmentaci oblaků, které běží přímo na satelitu. V současnosti působí jako AI Developer v AI týmu Oracle NetSuite. Navzdory původní specializaci jako Data Scientist pro obrazová data se Lukáš na své současné pozici věnuje především zajišťování OCI Cloud infrastruktury a OCI GenAI služeb pro NetSuite AI projekty.