Function Calling Podcast Summaries
Function Calling on Yedapo: 2 summarized podcast and YouTube episodes. Each includes key takeaways, core concepts and notable quotes with timestamps.
Cactus Needle - The 26M Function Calling Model
Sam Witteveen
Jul 12, 2026
Cactus Needle is an open-source, 26-million parameter model designed specifically for tool calling. By stripping away dense feed-forward layers and utilizing a simple attention network, it achieves high-performance function execution on consumer hardware. This architecture proves that agentic tasks don't require massive models, enabling near-zero cost inference for specialized edge applications.
Key insight: Cactus Needle is so lightweight that it can be fine-tuned on a standard CPU, eliminating the need for expensive GPU infrastructure for specialized task training.
Projektowanie narzędzi dla modeli językowych i agentów AI | LIVE AI_devs 4
overment
Dec 17, 2025
Duże modele językowe nie są lekami na całe zło, lecz narzędziami wymagającymi precyzyjnej inżynierii kontekstu i umiejętnego projektowania interfejsów. Zamiast budować monolityczne systemy, kluczem do skutecznej automatyzacji na produkcji jest dekompozycja zadań na małe, deterministyczne kroki oraz tworzenie dedykowanych serwerów MCP, które zdejmują ciężar z LLM-ów.
Key insight: Złożoność systemów agentowych wynika z ograniczeń środowiskowych, nie z samych modeli; często to nie LLM zawodzi, lecz źle zaprojektowany interfejs narzędzia, który zalewa go szumem informacyjnym, zamiast dostarczać czysty sygnał.