Una publicación de r/LocalLLaMA informó que la búsqueda agente Qwen 3.6-27B + logró un 95,7 % de SimpleQA en un solo 3090. El ingrediente clave: búsqueda basada en una API externa. Este tutorial recorre la configuración.
Requisitos previos
- NVIDIA RTX 3090 (24GB VRAM)
- Ollama instalada
- Clave API de Scavio
Guia paso a paso
Paso 1: Saque Qwen 3.6-27B vía Ollama
Descargue el modelo cuantificado Q4_K_M.
Bash
ollama pull qwen3.6:27b
# Uses Q4_K_M quantization by default
# Fits in 24GB VRAM on RTX 3090Paso 2: Configure Scavio MCP para la base de búsqueda
Configure el servidor MCP para que el modelo pueda buscar.
Bash
# If using opencode or Claude Code as the agent runtime:
claude mcp add scavio https://mcp.scavio.dev/mcp --header 'x-api-key: YOUR_SCAVIO_KEY'
# Or configure in mcp.json for direct Ollama tool callingPaso 3: Configurar el enrutamiento de búsqueda de agentes
El mensaje del sistema le dice al modelo cuándo buscar y cuándo responder desde el conocimiento.
Python
SYSTEM_PROMPT = '''You are a research assistant with web search access.
Rules:
- For factual questions (dates, prices, current events): ALWAYS search first
- For reasoning/math/code: answer from knowledge
- Cite search results when used
- If search returns no useful results, say so'''Paso 4: Construya el bucle del agente
Bucle de agente simple: el modelo decide buscar o responder.
Python
import ollama, requests, os
H = {'x-api-key': os.environ['SCAVIO_API_KEY']}
def agent_loop(question):
messages = [{'role': 'system', 'content': SYSTEM_PROMPT}, {'role': 'user', 'content': question}]
response = ollama.chat(model='qwen3.6:27b', messages=messages)
# If model requests search tool call:
if 'search' in response.get('tool_calls', [{}])[0].get('function', {}).get('name', ''):
query = response['tool_calls'][0]['function']['arguments']['query']
results = requests.post('https://api.scavio.dev/api/v1/search', headers=H,
json={'platform': 'google', 'query': query}).json()
messages.append({'role': 'tool', 'content': str(results)})
return ollama.chat(model='qwen3.6:27b', messages=messages)
return responsePaso 5: Comparación con SimpleQA
Ejecute el punto de referencia SimpleQA para verificar la precisión.
Text
# SimpleQA: factual QA benchmark
# Expected result with search grounding: ~95% accuracy
# Without search: ~60-70% for 27B model
# The delta is the value of search groundingEjemplo en Python
Python
# The 95.7% SimpleQA result comes from search grounding.
# Without search: Qwen 27B scores ~65% (hallucinations on factual queries).
# With search: factual queries get live data, accuracy jumps to 95%+.
# The search API IS the accuracy improvement.Ejemplo en JavaScript
JavaScript
// Ollama + Scavio in Node.js:
const { Ollama } = require('ollama');
const ollama = new Ollama();
// Same agent loop pattern in JSSalida esperada
JSON
Qwen 3.6-27B running locally on RTX 3090 with Scavio MCP for search grounding. 95%+ accuracy on factual questions via agentic search.