AI security resources often involve long lists of theoretical threats but how do you know how to prioritize them? How should you be categorizing them in your head for simplification?

That's the purpose of this talk and in addition we will be going deep into the future of AI and AI security as it relates to agents from the viewpoint of an AI agent and security engineer.

While we, as individuals, recognise our limitations and biases, what about our AI systems?

With the expansion of AI technologies and algorithms into fields like UI personalisation, are we prepared to advance further? Or are we risking a widespread failure?

In this talk, we'll be looking at issues with algorithmic user profiling and how this can lead to marginalisation and poor user experiences and what to do about it.

Organizations face a significant challenge in balancing the rapid pace of AI innovation with the critical need for risk management and trust. While projections for AI investment are high, with some estimates suggesting it could account for 10-12% of technology budgets, a more cautious and critical approach is necessary.

Andy's talk will explore why firms should resist the pressure to blindly adopt AI and instead treat it like any other new technology investment. We'll discuss the importance of being agile while also maintaining a strong focus on managing risk, building trust, and critically evaluating the real-world implications of AI implementation before committing significant resources and how to differentiate ourselves, beyond the GenAI hype.

Bio palestrante: Cientista de Dados, com background acadêmico em Matemática Pura e Física e mais de 10 anos de experiência na indústria, liderando o desenvolvimento de modelos quantitativos para diferentes classes de ativos, sistemas estruturados de gestão de risco e soluções end-to-end de IA/ML. Co-fundador e Management Partner da Grand Thera, empresa especializada em soluções avançadas de ciência de dados e inteligência artificial para tomada de decisão estratégica.

Descrição da pelstra: Nesta palestra, vamos olhar para a Inteligência Artificial em duas camadas que raramente são discutidas juntas: a lógica de negócios e a engenharia real por trás dos modelos. Primeiro, exploraremos a perspectiva de mercado onde estão os investimentos, quais teses de produto fazem sentido, quais modelos de negócio tendem a não se sustentar e onde o hype está distorcendo a percepção de valor.

Na segunda parte, entraremos nos bastidores técnicos: principais desafios de dados, arquitetura e governança, quais tipos de modelos e arquiteturas de redes neurais vêm sendo ignorados (ou subutilizados) e como eles podem ser potencializados com LLMs em soluções híbridas, mais eficientes e menos frágeis.

O encerramento da palestra será concentrado na discussão em quais modelos de negócios e aplicações têm fundamentos sólidos para escalar.

Esta palestra conecta visão de negócios e engenharia de IA. Primeiro, mapeamos onde há valor real, hype e modelos de negócio insustentáveis. Depois, exploramos desafios técnicos, aplicações ignoradas e como LLMs podem potencializá-las. Fechamos com um guia prático do que tende a escalar e dos fundamentos atuais do que não tende a durar.