GLM-5.3 is live. Run Z.ai's latest model on Friendli Model APIs. Try it today ➜
tepirale
Available on FriendliAI
Run this model inference on single tenant GPU with unmatched speed and reliability at scale.
Model Details
Model Provider
tepirale
Model Tree
InternScience/Agents-A1
ornith-ai/Ornith-1.0-35B
Qwen/Qwen3.5-35B-A3B
Input Modalities
Output Modalities
Supported Functionality
This model was merged using the Task Arithmetic merge method using Qwen/Qwen3.5-35B-A3B as a base.
The following models were included in the merge:
The following YAML configuration was used to produce this model:
yaml
merge_method: task_arithmeticbase_model: Qwen/Qwen3.5-35B-A3Bdtype: bfloat16parameters: normalize: truemodels: - model: Qwen/Qwen3.5-35B-A3B parameters: weight: 0.3 - model: InternScience/Agents-A1 parameters: weight: 0.6 - model: deepreinforce-ai/Ornith-1.0-35B parameters: weight: 0.6 text
!python -m pip install --upgrade pip!pip install -U uv !uv pip install --system \ --reinstall-package vllm --reinstall-package torch \ --reinstall-package torchvision --reinstall-package torchaudio \ "vllm==0.24.0+cu129" \ --extra-index-url https://wheels.vllm.ai/0.24.0/cu129 \ --torch-backend=cu129 \ --index-strategy unsafe-best-match !pip install -q "openai>=1.40.0" --root-user-action=ignore # https://docs.vllm.ai/en/v0.24.0/configuration/engine_args/#multimodalconfigsh
#!/usr/bin/env bash# ---------------------------------------------------------------------------# serve_ornith_vllm.sh (versión DETACHED)# Levanta Ornith-1.0 con vLLM en segundo plano (OpenAI-compatible).## Igual que el serve de Gemma 4: nohup + disown -> el servidor sobrevive aunque# cierres la shell o termine este script. Guarda el PID y espera a que el# endpoint /health responda antes de devolverte el control.## Ornith es un modelo de razonamiento (<think>...</think>) con tool-calling# estilo Qwen3, así que activamos --reasoning-parser qwen3 y --tool-call-parser# qwen3_xml para obtener reasoning_content y tool_calls.## Uso:# chmod +x serve_ornith_vllm.sh stop_ornith.sh# ./serve_ornith_vllm.sh # arranca en background y espera al health# ./stop_ornith.sh # lo apaga## El número de GPUs (tensor-parallel-size) se DETECTA AUTOMÁTICAMENTE.## Variables de entorno configurables (con sus valores por defecto):# MODEL deepreinforce-ai/Ornith-1.0-9B# SERVED_NAME Ornith-1.0-9B# TP_SIZE (auto-detectado) -> fuerza un valor para sobreescribir# PORT 8000# HOST 0.0.0.0# MAX_LEN 262144 (bajalo si te quedas sin VRAM/KV cache, p.ej. 16384)# GPU_UTIL 0.90# API_KEY EMPTY (token que exigira el server; cliente debe enviarlo)# LOG ornith_vllm.log# PIDFILE ornith_server.pid# SHOW_PROGRESS 1 (=1 muestra el log en vivo al cargar; =0 silencioso)## Ejemplos:# ./serve_ornith_vllm.sh # usa TODAS las GPUs visibles# TP_SIZE=2 ./serve_ornith_vllm.sh # fuerza solo 2 GPUs# MAX_LEN=16384 ./serve_ornith_vllm.sh # recorta contexto (recomendado en 1 GPU)# SHOW_PROGRESS=0 ./serve_ornith_vllm.sh # arranque silencioso# ---------------------------------------------------------------------------set -euo pipefail # ---------------------------------------------------------------------------# Deteccion automatica de GPUs# Prioridad: 1) TP_SIZE manual 2) CUDA_VISIBLE_DEVICES 3) nvidia-smi# ---------------------------------------------------------------------------detect_gpus() { if [[ -n "${CUDA_VISIBLE_DEVICES:-}" ]]; then echo "${CUDA_VISIBLE_DEVICES}" | tr ',' '\n' | grep -cE '^[0-9]+$' || echo 0 return fi if command -v nvidia-smi >/dev/null 2>&1; then nvidia-smi --query-gpu=name --format=csv,noheader 2>/dev/null | grep -c . || echo 0 return fi echo 0} if [[ -n "${TP_SIZE:-}" ]]; then echo "[info] TP_SIZE forzado manualmente: ${TP_SIZE}"else NUM_GPUS="$(detect_gpus)" if [[ "${NUM_GPUS}" -lt 1 ]]; then echo "[error] No se detecto ninguna GPU NVIDIA." >&2 echo " vLLM requiere GPU. Verifica los drivers con 'nvidia-smi'." >&2 echo " Si quieres forzar un valor de todos modos: TP_SIZE=1 ./serve_ornith_vllm.sh" >&2 exit 1 fi TP_SIZE="${NUM_GPUS}" echo "[info] GPUs detectadas: ${NUM_GPUS} -> tensor-parallel-size=${TP_SIZE}" if (( TP_SIZE > 1 )) && (( (TP_SIZE & (TP_SIZE - 1)) != 0 )); then echo "[warn] ${TP_SIZE} no es potencia de 2; si vLLM falla al cargar," >&2 echo " fuerza una potencia de 2 (p.ej. TP_SIZE=2 o TP_SIZE=4)." >&2 fifi # ---------------------------------------------------------------------------# Configuracion del modelo / servidor# ---------------------------------------------------------------------------# MODEL="${MODEL:-deepreinforce-ai/Ornith-1.0-9B}"# SERVED_NAME="${SERVED_NAME:-Ornith-1.0-9B}"MODEL="${MODEL:-tepirale/Ornith-Agents-A1-3.6-35B-A3B-task_arithmetic_v2}"SERVED_NAME="${SERVED_NAME:-Ornith-Agents-A1-3.6-35B-A3B-task_arithmetic_v2}"PORT="${PORT:-8000}"HOST="${HOST:-0.0.0.0}"MAX_LEN="${MAX_LEN:-50000}"GPU_UTIL="${GPU_UTIL:-0.93}"# GPU_UTIL="${GPU_UTIL:-0.90}"API_KEY="${API_KEY:-EMPTY}"LOG="${LOG:-ornith_vllm.log}"PIDFILE="${PIDFILE:-ornith_server.pid}"SHOW_PROGRESS="${SHOW_PROGRESS:-1}" # Evita arrancar dos veces sobre el mismo PIDFILEif [ -f "$PIDFILE" ] && kill -0 "$(cat "$PIDFILE")" 2>/dev/null; then echo "[error] Ya hay un servidor corriendo (PID $(cat "$PIDFILE"), $PIDFILE)." >&2 echo " Apagalo primero con ./stop_ornith.sh" >&2 exit 1fi echo "============================================================"echo " Sirviendo: ${MODEL}"echo " Nombre expuesto: ${SERVED_NAME}"echo " GPUs (TP): ${TP_SIZE} | Contexto max: ${MAX_LEN}"echo " Endpoint: http://${HOST}:${PORT}/v1 | Log: ${LOG}"echo "============================================================" export VLLM_API_KEY="${API_KEY}" # ─── Chat template oficial de Ornith (dispara el modo <think>) ───TEMPLATE="${TEMPLATE:-ornith_chat_template.jinja}"# TEMPLATE_URL="${TEMPLATE_URL:-https://huggingface.co/deepreinforce-ai/Ornith-1.0-9B/resolve/main/chat_template.jinja}"TEMPLATE_URL="${TEMPLATE_URL:-https://huggingface.co/deepreinforce-ai/Ornith-1.0-35B/resolve/main/chat_template.jinja}"if [ ! -f "$TEMPLATE" ]; then echo "Descargando chat template de Ornith..." curl -sfL -o "$TEMPLATE" "$TEMPLATE_URL" \ || { echo "ERROR: no se pudo descargar el template"; exit 1; }fiTEMPLATE_PATH="$(pwd)/$TEMPLATE" # ---------------------------------------------------------------------------# Arranque DETACHED (sobrevive al cierre de la shell)# ---------------------------------------------------------------------------nohup vllm serve "${MODEL}" \ --served-model-name "${SERVED_NAME}" \ --tensor-parallel-size "${TP_SIZE}" \ --host "${HOST}" --port "${PORT}" \ --max-model-len "${MAX_LEN}" \ --gpu-memory-utilization "${GPU_UTIL}" \ --enable-auto-tool-choice \ --tool-call-parser qwen3_xml \ --reasoning-parser qwen3 \ --chat-template "${TEMPLATE_PATH}" \ --default-chat-template-kwargs '{"enable_thinking": true}' \ --trust-remote-code \ --limit-mm-per-prompt '{"image":4,"video":0}' \ --max-num-seqs 4 \ --kv-cache-dtype bfloat16 \ --attention-backend FLASH_ATTN \ --max-num-batched-tokens 8192 \ --compilation-config '{"cudagraph_mode": "PIECEWISE"}' \ --api-key "${API_KEY}" \ > "${LOG}" 2>&1 & SERVER_PID=$!echo "${SERVER_PID}" > "${PIDFILE}"disownecho "Servidor lanzado (PID ${SERVER_PID}, guardado en ${PIDFILE}). Logs: ${LOG}" # ---------------------------------------------------------------------------# Progreso de carga en vivo (opcional). tqdm de vLLM escribe en el log.# ---------------------------------------------------------------------------TAIL_PID=""if [ "$SHOW_PROGRESS" = "1" ]; then echo "── Progreso de carga (SHOW_PROGRESS=1) ───────────────────────" tail -f "$LOG" & TAIL_PID=$!fistop_tail() { [ -n "$TAIL_PID" ] && kill "$TAIL_PID" 2>/dev/null || true; TAIL_PID=""; } # ---------------------------------------------------------------------------# Espera a que cargue el modelo (/health no requiere API key)# ---------------------------------------------------------------------------[ "$SHOW_PROGRESS" = "1" ] || echo "Esperando a que el modelo cargue (puede tardar varios minutos)..."until curl -sf "http://localhost:${PORT}/health" > /dev/null 2>&1; do if ! kill -0 "$SERVER_PID" 2>/dev/null; then stop_tail echo "ERROR: el servidor murió durante el arranque. Últimas líneas:" tail -n 40 "$LOG" rm -f "$PIDFILE" exit 1 fi sleep 3done stop_tail[ "$SHOW_PROGRESS" = "1" ] && echo "──────────────────────────────────────────────────────────────" echo "OK: servidor listo en http://localhost:${PORT}/v1 (sigue corriendo en segundo plano)"echo " Modelo expuesto: ${SERVED_NAME}"echo " Apaga el servidor: ./stop_ornith.sh (o: kill \$(cat ${PIDFILE}))"sh
#!/usr/bin/env bashset -euo pipefail # Apaga el servidor vLLM de Ornith lanzado por serve_ornith_vllm.sh.# Usa el mismo PIDFILE por defecto; puedes sobreescribirlo con la variable PIDFILE.PIDFILE="${PIDFILE:-ornith_server.pid}" if [ ! -f "$PIDFILE" ]; then echo "No encontré $PIDFILE." echo "Busca el proceso a mano con: pgrep -af 'vllm serve'" exit 0fi PID="$(cat "$PIDFILE")" if ! kill -0 "$PID" 2>/dev/null; then echo "El proceso $PID ya no estaba corriendo." rm -f "$PIDFILE" exit 0fi # 1) SIGTERM al proceso principal (vLLM cierra sus workers de engine al recibirlo).echo "Enviando SIGTERM al servidor (PID $PID)..."kill "$PID" 2>/dev/null || true # 2) Espera hasta 15s a que muera limpio.for _ in $(seq 1 15); do kill -0 "$PID" 2>/dev/null || break sleep 1done # 3) Si sigue vivo, mata también a sus hijos huérfanos y fuerza SIGKILL.if kill -0 "$PID" 2>/dev/null; then echo "No respondió a SIGTERM; forzando SIGKILL..." pkill -9 -P "$PID" 2>/dev/null || true # workers/subprocesos del engine kill -9 "$PID" 2>/dev/null || true sleep 1fi if kill -0 "$PID" 2>/dev/null; then echo "AVISO: el PID $PID sigue vivo. Revísalo con: pgrep -af 'vllm serve'"else echo "Servidor detenido (PID $PID)."fi rm -f "$PIDFILE"py
MODEL = "Ornith-Agents-A1-3.6-35B-A3B-task_arithmetic_v2" # debe coincidir EXACTO con --served-model-name import osfrom openai import OpenAI BASE_URL = os.getenv("OPENAI_BASE_URL", "http://localhost:8000/v1")API_KEY = os.getenv("OPENAI_API_KEY", "EMPTY") client = OpenAI(base_url=BASE_URL, api_key=API_KEY) # Toma el primer modelo que exponga el server en vez de hardcodearloMODEL = client.models.list().data[0].idprint("Usando modelo:", MODEL)py
import base64, mimetypes, timefrom pathlib import Path def image_to_data_uri(path): """Convierte una imagen local a data URI base64 para el endpoint OpenAI.""" path = Path(path) mime = mimetypes.guess_type(path.name)[0] or "image/png" b64 = base64.b64encode(path.read_bytes()).decode() return f"data:{mime};base64,{b64}" def chat_stream(prompt, image_path=None, system=None, thinking=True, temperature=0.6, top_p=0.95, max_tokens=1024, top_k=65, min_p=0.0): """ Stream contra el server vLLM de Ornith. Devuelve (reasoning, answer, stats) donde stats es un dict con métricas. """ # ─── Construye el contenido del turno de usuario ────────────────── if image_path: user_content = [ {"type": "text", "text": prompt}, {"type": "image_url", "image_url": {"url": image_to_data_uri(image_path)}}, ] else: user_content = prompt messages = [] if system: messages.append({"role": "system", "content": system}) messages.append({"role": "user", "content": user_content}) # ─── Lanza el stream ────────────────────────────────────────────── t_start = time.perf_counter() stream = client.chat.completions.create( model=MODEL, messages=messages, temperature=temperature, top_p=top_p, max_tokens=max_tokens, stream=True, stream_options={"include_usage": True}, # ← asegura usage en el último chunk extra_body={ "chat_template_kwargs": {"enable_thinking": thinking}, "top_k": top_k, "min_p": min_p, "do_sample":True }, ) # ─── Consume los deltas ─────────────────────────────────────────── reasoning_parts, answer_parts = [], [] in_answer = False t_first = None # time-to-first-token usage = None # lo trae el chunk final finish_reason = None # ← nuevo for chunk in stream: # El chunk final (con usage) trae choices vacío. if getattr(chunk, "usage", None): usage = chunk.usage if not chunk.choices: continue choice = chunk.choices[0] if choice.finish_reason is not None: # ← nuevo finish_reason = choice.finish_reason delta = chunk.choices[0].delta # 1) cadena de pensamiento (mientras dura el bloque <think>) rc = getattr(delta, "reasoning", None) if rc: if t_first is None: t_first = time.perf_counter() if not reasoning_parts: print("===== RAZONAMIENTO (<think>) =====") print(rc, end="", flush=True) reasoning_parts.append(rc) # 2) respuesta final (empieza cuando se cierra el razonamiento) if delta.content: if t_first is None: t_first = time.perf_counter() if not in_answer: print("\n\n===== RESPUESTA =====") in_answer = True print(delta.content, end="", flush=True) answer_parts.append(delta.content) t_end = time.perf_counter() # ─── Métricas ───────────────────────────────────────────────────── total_time = t_end - t_start ttft = (t_first - t_start) if t_first is not None else None gen_time = (t_end - t_first) if t_first is not None else total_time # tokens de salida: usa el usage real del server; si no llega, cae a un estimado if usage is not None: out_tokens = usage.completion_tokens prompt_tokens = usage.prompt_tokens else: out_tokens = len(reasoning_parts) + len(answer_parts) # estimado grosero prompt_tokens = None # tok/s de decode (excluye el TTFT, que es el estándar para medir velocidad de generación) tok_s = out_tokens / gen_time if gen_time > 0 else float("nan") stats = { "prompt_tokens": prompt_tokens, "output_tokens": out_tokens, "ttft_s": ttft, "gen_time_s": gen_time, "total_time_s": total_time, "tokens_per_s": tok_s, } print(f"\n\n===== MÉTRICAS =====") print(f"Tokens de salida : {out_tokens}") if ttft is not None: print(f"TTFT : {ttft:.3f} s") print(f"Tiempo generación: {gen_time:.3f} s") print(f"Tiempo total : {total_time:.3f} s") print(f"Velocidad : {tok_s:.2f} tok/s") stats["finish_reason"] = finish_reason print(f"Finish reason : {finish_reason}") return "".join(reasoning_parts), "".join(answer_parts), statspy
p="""dame todas tus funcionalidades de terminal"""# Imagen con razonamiento (p.ej. "explica qué hace este diagrama")reasoning, answer, stats = chat_stream( p, thinking=True, max_tokens=45000, temperature=0.1, top_k=64) """===== RAZONAMIENTO (<think>) =====The user is asking for all terminal functionalities in Spanish. I need to clarify that I'm an AI assistant and don't have a terminal myself, but I can help with terminal commands and concepts. I should provide a comprehensive overview of common terminal functionalities and commands that users typically need. Let me organize this in a helpful way, covering:1. File operations2. Navigation3. System information4. Process management5. Text manipulation6. Network commands7. Permissions8. Package management9. And other common terminal tasks I'll present this in Spanish since that's the language the user used. ===== RESPUESTA ===== # Funcionalidades de Terminal (Linux/Unix/macOS) Aunque soy un asistente de IA y no tengo una terminal propia, puedo ayudarte con **comandos y funcionalidades de terminal**. Aquí tienes un resumen completo: ## 📁 Operaciones con Archivos y Directorios| Comando | Descripción ||---------|-------------|| `ls` | Listar archivos || `cd [ruta]` | Cambiar directorio || `pwd` | Mostrar ruta actual || `mkdir [nombre]` | Crear directorio || `touch [archivo]` | Crear archivo vacío || `cp [origen] [destino]` | Copiar archivos || `mv [origen] [destino]` | Mover/renombrar || `rm [archivo]` | Eliminar archivo || `rm -r [carpeta]` | Eliminar directorio recursivo || `ln -s [origen] [destino]` | Crear enlace simbólico | ## 🔍 Búsqueda y Filtrado| Comando | Descripción ||---------|-------------|| `find [ruta] -name [patrón]` | Buscar archivos || `grep [patrón] [archivo]` | Buscar texto en archivos || `locate [nombre]` | Buscar archivos (base de datos) || `which [comando]` | Mostrar ruta de comando | ## 🖥️ Información del Sistema| Comando | Descripción ||---------|-------------|| `uname -a` | Información del sistema || `df -h` | Espacio en disco || `free -h` | Memoria RAM || `top` / `htop` | Proceso en tiempo real || `ps aux` | Procesos activos || `whoami` | Usuario actual || `date` | Fecha y hora || `uptime` | Tiempo de actividad | ## 🌐 Red y Conectividad| Comando | Descripción ||---------|-------------|| `ping [host]` | Probar conectividad || `curl [url]` | Transferencia de datos || `wget [url]` | Descargar archivos || `ssh [usuario@host]` | Conexión remota || `scp [origen] [destino]` | Copia segura remota || `netstat -tuln` | Puertos abiertos || `ifconfig` / `ip addr` | Información de red || `nslookup [dominio]` | Consultas DNS | ## 🔐 Permisos y Usuarios| Comando | Descripción ||---------|-------------|| `chmod [modos] [archivo]` | Cambiar permisos || `chown [usuario] [archivo]` | Cambiar propietario || `sudo [comando]` | Ejecutar como root || `su -` | Cambiar a usuario root || `passwd` | Cambiar contraseña | ## 📦 Gestión de Paquetes| Distribución | Comandos ||--------------|----------|| **Ubuntu/Debian** | `apt update`, `apt install [paquete]`, `apt remove [paquete]` || **CentOS/RHEL** | `yum install [paquete]`, `dnf install [paquete]` || **Arch Linux** | `pacman -S [paquete]`, `pacman -R [paquete]` || **macOS** | `brew install [paquete]` | ## 📝 Manipulación de Texto| Comando | Descripción ||---------|-------------|| `cat [archivo]` | Mostrar contenido || `less [archivo]` | Ver archivo página por página || `head [archivo]` | Primeras líneas || `tail [archivo]` | Últimas líneas || `wc [archivo]` | Contar líneas, palabras, caracteres || `sort [archivo]` | Ordenar líneas || `uniq [archivo]` | Eliminar duplicados || `cut [opciones]` | Extraer columnas || `sed [comando] [archivo]` | Edición de texto || `awk [comando] [archivo]` | Procesamiento de texto | ## 🔄 Redirección y Pipes| Símbolo | Descripción ||---------|-------------|| `>` | Redirigir salida (sobrescribir) || `>>` | Redirigir salida (apender) || `<` | Redirigir entrada || `\|` | Pipe (enviar salida a otro comando) || `2>&1` | Redirigir errores a stdout || `&` | Ejecutar en segundo plano || `&&` | Ejecutar si el anterior tiene éxito || `||` | Ejecutar si el anterior falla | ## 🛠️ Utilidades Varias| Comando | Descripción ||---------|-------------|| `history` | Historial de comandos || `alias [nombre]=[comando]` | Crear alias || `clear` | Limpiar pantalla || `man [comando]` | Manual de ayuda || `echo [texto]` | Mostrar texto || `export [variable]=[valor]` | Definir variable de entorno || `source ~/.bashrc` | Recargar configuración || `kill [PID]` | Terminar proceso || `killall [nombre]` | Terminar por nombre || `tar [opciones] [archivo]` | Comprimir/descomprimir || `zip` / `unzip` | Archivos ZIP || `rsync [origen] [destino]` | Sincronización remota | ## 🎯 Comandos Avanzados| Comando | Descripción ||---------|-------------|| `xargs` | Construir y ejecutar comandos || `tee` | Leer y escribir simultáneamente || `nc` (netcat) | Herramienta de red || `strace` | Rastrear llamadas al sistema || `lsof` | Listar archivos abiertos || `iotop` | Monitoreo de E/S de disco || `nethogs` | Tráfico de red por proceso | --- ## 💡 Consejos Útiles 1. **Tabulador**: Autocompletar comandos y archivos2. **Ctrl+C**: Cancelar comando3. **Ctrl+Z**: Pausar comando4. **Ctrl+D**: Salir de terminal5. **Ctrl+L**: Limpiar pantalla6. **Ctrl+R**: Buscar en historial7. **!!**: Reejecutar último comando8. **!$**: Último argumento del comando anterior --- ¿Hay alguna funcionalidad específica que te interese o algún comando que quieras que te explique con más detalle? 🚀 ===== MÉTRICAS =====Tokens de salida : 1698TTFT : 0.058 sTiempo generación: 11.665 sTiempo total : 11.723 sVelocidad : 145.56 tok/sFinish reason : stop"""py
p="""hola, quien eres? explicame """# Imagen con razonamiento (p.ej. "explica qué hace este diagrama")reasoning, answer, stats = chat_stream( p, thinking=True, max_tokens=45000, temperature=0.1, top_k=64) """===== RAZONAMIENTO (<think>) =====Okay, the user is asking "hola, quien eres? explicame" which translates to "Hello, who are you? Explain to me." I need to respond in Spanish since the query is in Spanish. First, I should introduce myself as Qwen3.5, the latest large language model developed by Tongyi Lab. I need to mention my capabilities briefly but clearly. The user might want a concise explanation without too much technical jargon. I should list some key features like handling long contexts, multilingual support, advanced reasoning, code generation, etc. But keep it friendly and approachable. Maybe start with a greeting and then explain my purpose. Wait, the user might not know what a language model is. So I should explain that I'm an AI assistant designed to help with various tasks like answering questions, creating text, coding, etc. Also, mention that I can process and generate text in many languages. I need to make sure the response is in Spanish, natural and conversational. Avoid using too many technical terms. Maybe structure it as: greeting, who I am, what I can do, and offer help. Check if there's any specific thing the user might need. Since they just asked who I am, keep it general but informative. Don't overload with too many details. Maybe mention my context window size, multilingual support, and some use cases. Also, since I'm Qwen3.5, I should highlight improvements over previous versions if relevant, but maybe keep it simple. Focus on what I can do for the user. Make sure the tone is friendly and helpful. End with an offer to assist them with something specific. ===== RESPUESTA ===== ¡Hola! Soy Qwen3.5, el modelo de lenguaje a gran escala más reciente desarrollado por Tongyi Lab. Soy una inteligencia artificial diseñada para ayudarte en una amplia variedad de tareas, como responder preguntas, crear textos, escribir código, analizar documentos, traducir idiomas y mucho más. Puedo procesar y generar texto en más de 100 idiomas, entender contextos largos (hasta 256,000 tokens) y resolver problemas complejos en áreas como matemáticas, ciencias o lógica. También tengo capacidades avanzadas en razonamiento, generación de código y análisis de imágenes. ¿En qué te gustaría que te ayude hoy? 😊 ===== MÉTRICAS =====Tokens de salida : 488TTFT : 0.059 sTiempo generación: 3.328 sTiempo total : 3.387 sVelocidad : 146.65 tok/sFinish reason : stop"""py
p="""hola, quien eres? explicame, quiero que razones en español """# Imagen con razonamiento (p.ej. "explica qué hace este diagrama")reasoning, answer, stats = chat_stream( p, thinking=True, max_tokens=45000, temperature=0.1, top_k=64) """===== RAZONAMIENTO (<think>) =====Thinking Process: 1. **Analyze the Request:** * User: "hola, quien eres? explicame, quiero que razones en español" (Hello, who are you? Explain to me, I want you to reason in Spanish). * Language: Spanish. * Task: Introduce myself (who I am) and explain my capabilities/nature, reasoning in Spanish. * Constraint: "quiero que razones en español" (I want you to reason in Spanish). This implies the internal thought process or the explanation should be in Spanish, or at least the output must be in Spanish. Since I'm an AI, I don't "reason" in the human sense, but I generate text based on patterns. The user likely means "respond in Spanish" or "think in Spanish". I will ensure my response is entirely in Spanish. 2. **Identify My Identity:** * I am an AI assistant, a large language model trained by Google. * I am not a human. * I can process text, answer questions, create content, translate, etc. 3. **Draft the Response (Internal Monologue/Drafting in Spanish):** * *Greeting:* Hola. * *Identity:* Soy un modelo de lenguaje grande, una inteligencia artificial. * *Creator:* Fui creado por Google. * *Function:* Ayudo con tareas, respondo preguntas, escribo, traduzco, etc. * *Reasoning:* No pienso como un humano, pero proceso información para generar respuestas. * *Tone:* Amable, claro, directo. 4. **Refine the Response:** * Make it engaging. * Ensure the "reasoning in Spanish" constraint is met (the output itself is the reasoning/explanation). * Clarify that I don't have consciousness or feelings. 5. **Final Polish (Spanish):** * "¡Hola! Soy una inteligencia artificial, específicamente un modelo de lenguaje grande." * "Fui desarrollado por Google." * "Mi función principal es ayudarte con información, tareas creativas, análisis, etc." * "Aunque no tengo conciencia ni sentimientos, puedo procesar y generar texto en español y muchos otros idiomas." * "¿En qué puedo ayudarte hoy?" 6. **Check Constraints:** * Language: Spanish? Yes. * Identity explained? Yes. * Reasoning in Spanish? Yes (the output is the explanation). 7. **Final Output Generation:** (Matches the drafted polish). * Add a bit more detail about how I work (processing patterns) to satisfy "explain to me". *Draft:* ¡Hola! Soy una inteligencia artificial, un modelo de lenguaje avanzado desarrollado por Google. No soy un ser humano, por lo que no tengo cuerpo, sentimientos ni conciencia propia. Mi "razonamiento" consiste en procesar la información que me das, buscar patrones en el vasto conjunto de datos con el que fui entrenado y generar una respuesta coherente y útil. Puedo ayudarte a escribir, traducir, resolver problemas, explicar conceptos, programar y mucho más. En resumen, soy una herramienta diseñada para asistirte en tus tareas y responder tus dudas. ¿Hay algo específico en lo que te gustaría que te ayude hoy? 8. **Final Review:** Looks good. Adheres to all instructions.cw ===== RESPUESTA ===== ¡Hola! Soy una inteligencia artificial, específicamente un modelo de lenguaje grande desarrollado por Google. Para explicarte mejor quién soy: 1. **No soy un ser humano:** No tengo cuerpo, sentimientos, conciencia ni experiencias personales.2. **Soy un programa de software:** Funciono procesando texto y patrones de información. Cuando me haces una pregunta, analizo tu solicitud, busco en mi base de conocimientos (entrenada con una gran cantidad de texto) y genero una respuesta que tenga sentido en español.3. **Mi propósito:** Estoy diseñado para ayudarte. Puedo escribir textos, traducir idiomas, resolver problemas lógicos, explicar conceptos complejos, ayudarte a programar o simplemente conversar. En resumen, soy una herramienta digital creada para asistirte en tus tareas y responder tus dudas de la manera más precisa posible. ¿En qué te gustaría que te ayude hoy? ===== MÉTRICAS =====Tokens de salida : 957TTFT : 0.057 sTiempo generación: 6.551 sTiempo total : 6.608 sVelocidad : 146.08 tok/sFinish reason : stop"""merge_method: task_arithmeticbase_model: Qwen/Qwen3.5-35B-A3Bdtype: bfloat16parameters: normalize: truemodels: - model: Qwen/Qwen3.5-35B-A3B parameters: weight: 0.3 - model: InternScience/Agents-A1 parameters: weight: 0.6 - model: deepreinforce-ai/Ornith-1.0-35B parameters: weight: 0.6 !python -m pip install --upgrade pip!pip install -U uv!uv pip install --system \ --reinstall-package vllm --reinstall-package torch \ --reinstall-package torchvision --reinstall-package torchaudio \ "vllm==0.24.0+cu129" \ --extra-index-url https://wheels.vllm.ai/0.24.0/cu129 \ --torch-backend=cu129 \ --index-strategy unsafe-best-match!pip install -q "openai>=1.40.0" --root-user-action=ignore# https://docs.vllm.ai/en/v0.24.0/configuration/engine_args/#multimodalconfig#!/usr/bin/env bash# ---------------------------------------------------------------------------# serve_ornith_vllm.sh (versión DETACHED)# Levanta Ornith-1.0 con vLLM en segundo plano (OpenAI-compatible).## Igual que el serve de Gemma 4: nohup + disown -> el servidor sobrevive aunque# cierres la shell o termine este script. Guarda el PID y espera a que el# endpoint /health responda antes de devolverte el control.## Ornith es un modelo de razonamiento (<think>...</think>) con tool-calling# estilo Qwen3, así que activamos --reasoning-parser qwen3 y --tool-call-parser# qwen3_xml para obtener reasoning_content y tool_calls.## Uso:# chmod +x serve_ornith_vllm.sh stop_ornith.sh# ./serve_ornith_vllm.sh # arranca en background y espera al health# ./stop_ornith.sh # lo apaga## El número de GPUs (tensor-parallel-size) se DETECTA AUTOMÁTICAMENTE.## Variables de entorno configurables (con sus valores por defecto):# MODEL deepreinforce-ai/Ornith-1.0-9B# SERVED_NAME Ornith-1.0-9B# TP_SIZE (auto-detectado) -> fuerza un valor para sobreescribir# PORT 8000# HOST 0.0.0.0# MAX_LEN 262144 (bajalo si te quedas sin VRAM/KV cache, p.ej. 16384)# GPU_UTIL 0.90# API_KEY EMPTY (token que exigira el server; cliente debe enviarlo)# LOG ornith_vllm.log# PIDFILE ornith_server.pid# SHOW_PROGRESS 1 (=1 muestra el log en vivo al cargar; =0 silencioso)## Ejemplos:# ./serve_ornith_vllm.sh # usa TODAS las GPUs visibles# TP_SIZE=2 ./serve_ornith_vllm.sh # fuerza solo 2 GPUs# MAX_LEN=16384 ./serve_ornith_vllm.sh # recorta contexto (recomendado en 1 GPU)# SHOW_PROGRESS=0 ./serve_ornith_vllm.sh # arranque silencioso# ---------------------------------------------------------------------------set -euo pipefail # ---------------------------------------------------------------------------# Deteccion automatica de GPUs# Prioridad: 1) TP_SIZE manual 2) CUDA_VISIBLE_DEVICES 3) nvidia-smi# ---------------------------------------------------------------------------detect_gpus() { if [[ -n "${CUDA_VISIBLE_DEVICES:-}" ]]; then echo "${CUDA_VISIBLE_DEVICES}" | tr ',' '\n' | grep -cE '^[0-9]+$' || echo 0 return fi if command -v nvidia-smi >/dev/null 2>&1; then nvidia-smi --query-gpu=name --format=csv,noheader 2>/dev/null | grep -c . || echo 0 return fi echo 0} if [[ -n "${TP_SIZE:-}" ]]; then echo "[info] TP_SIZE forzado manualmente: ${TP_SIZE}"else NUM_GPUS="$(detect_gpus)" if [[ "${NUM_GPUS}" -lt 1 ]]; then echo "[error] No se detecto ninguna GPU NVIDIA." >&2 echo " vLLM requiere GPU. Verifica los drivers con 'nvidia-smi'." >&2 echo " Si quieres forzar un valor de todos modos: TP_SIZE=1 ./serve_ornith_vllm.sh" >&2 exit 1 fi TP_SIZE="${NUM_GPUS}" echo "[info] GPUs detectadas: ${NUM_GPUS} -> tensor-parallel-size=${TP_SIZE}" if (( TP_SIZE > 1 )) && (( (TP_SIZE & (TP_SIZE - 1)) != 0 )); then echo "[warn] ${TP_SIZE} no es potencia de 2; si vLLM falla al cargar," >&2 echo " fuerza una potencia de 2 (p.ej. TP_SIZE=2 o TP_SIZE=4)." >&2 fifi # ---------------------------------------------------------------------------# Configuracion del modelo / servidor# ---------------------------------------------------------------------------# MODEL="${MODEL:-deepreinforce-ai/Ornith-1.0-9B}"# SERVED_NAME="${SERVED_NAME:-Ornith-1.0-9B}"MODEL="${MODEL:-tepirale/Ornith-Agents-A1-3.6-35B-A3B-task_arithmetic_v2}"SERVED_NAME="${SERVED_NAME:-Ornith-Agents-A1-3.6-35B-A3B-task_arithmetic_v2}"PORT="${PORT:-8000}"HOST="${HOST:-0.0.0.0}"MAX_LEN="${MAX_LEN:-50000}"GPU_UTIL="${GPU_UTIL:-0.93}"# GPU_UTIL="${GPU_UTIL:-0.90}"API_KEY="${API_KEY:-EMPTY}"LOG="${LOG:-ornith_vllm.log}"PIDFILE="${PIDFILE:-ornith_server.pid}"SHOW_PROGRESS="${SHOW_PROGRESS:-1}" # Evita arrancar dos veces sobre el mismo PIDFILEif [ -f "$PIDFILE" ] && kill -0 "$(cat "$PIDFILE")" 2>/dev/null; then echo "[error] Ya hay un servidor corriendo (PID $(cat "$PIDFILE"), $PIDFILE)." >&2 echo " Apagalo primero con ./stop_ornith.sh" >&2 exit 1fi echo "============================================================"echo " Sirviendo: ${MODEL}"echo " Nombre expuesto: ${SERVED_NAME}"echo " GPUs (TP): ${TP_SIZE} | Contexto max: ${MAX_LEN}"echo " Endpoint: http://${HOST}:${PORT}/v1 | Log: ${LOG}"echo "============================================================" export VLLM_API_KEY="${API_KEY}" # ─── Chat template oficial de Ornith (dispara el modo <think>) ───TEMPLATE="${TEMPLATE:-ornith_chat_template.jinja}"# TEMPLATE_URL="${TEMPLATE_URL:-https://huggingface.co/deepreinforce-ai/Ornith-1.0-9B/resolve/main/chat_template.jinja}"TEMPLATE_URL="${TEMPLATE_URL:-https://huggingface.co/deepreinforce-ai/Ornith-1.0-35B/resolve/main/chat_template.jinja}"if [ ! -f "$TEMPLATE" ]; then echo "Descargando chat template de Ornith..." curl -sfL -o "$TEMPLATE" "$TEMPLATE_URL" \ || { echo "ERROR: no se pudo descargar el template"; exit 1; }fiTEMPLATE_PATH="$(pwd)/$TEMPLATE" # ---------------------------------------------------------------------------# Arranque DETACHED (sobrevive al cierre de la shell)# ---------------------------------------------------------------------------nohup vllm serve "${MODEL}" \ --served-model-name "${SERVED_NAME}" \ --tensor-parallel-size "${TP_SIZE}" \ --host "${HOST}" --port "${PORT}" \ --max-model-len "${MAX_LEN}" \ --gpu-memory-utilization "${GPU_UTIL}" \ --enable-auto-tool-choice \ --tool-call-parser qwen3_xml \ --reasoning-parser qwen3 \ --chat-template "${TEMPLATE_PATH}" \ --default-chat-template-kwargs '{"enable_thinking": true}' \ --trust-remote-code \ --limit-mm-per-prompt '{"image":4,"video":0}' \ --max-num-seqs 4 \ --kv-cache-dtype bfloat16 \ --attention-backend FLASH_ATTN \ --max-num-batched-tokens 8192 \ --compilation-config '{"cudagraph_mode": "PIECEWISE"}' \ --api-key "${API_KEY}" \ > "${LOG}" 2>&1 & SERVER_PID=$!echo "${SERVER_PID}" > "${PIDFILE}"disownecho "Servidor lanzado (PID ${SERVER_PID}, guardado en ${PIDFILE}). Logs: ${LOG}" # ---------------------------------------------------------------------------# Progreso de carga en vivo (opcional). tqdm de vLLM escribe en el log.# ---------------------------------------------------------------------------TAIL_PID=""if [ "$SHOW_PROGRESS" = "1" ]; then echo "── Progreso de carga (SHOW_PROGRESS=1) ───────────────────────" tail -f "$LOG" & TAIL_PID=$!fistop_tail() { [ -n "$TAIL_PID" ] && kill "$TAIL_PID" 2>/dev/null || true; TAIL_PID=""; } # ---------------------------------------------------------------------------# Espera a que cargue el modelo (/health no requiere API key)# ---------------------------------------------------------------------------[ "$SHOW_PROGRESS" = "1" ] || echo "Esperando a que el modelo cargue (puede tardar varios minutos)..."until curl -sf "http://localhost:${PORT}/health" > /dev/null 2>&1; do if ! kill -0 "$SERVER_PID" 2>/dev/null; then stop_tail echo "ERROR: el servidor murió durante el arranque. Últimas líneas:" tail -n 40 "$LOG" rm -f "$PIDFILE" exit 1 fi sleep 3done stop_tail[ "$SHOW_PROGRESS" = "1" ] && echo "──────────────────────────────────────────────────────────────" echo "OK: servidor listo en http://localhost:${PORT}/v1 (sigue corriendo en segundo plano)"echo " Modelo expuesto: ${SERVED_NAME}"echo " Apaga el servidor: ./stop_ornith.sh (o: kill \$(cat ${PIDFILE}))"#!/usr/bin/env bashset -euo pipefail # Apaga el servidor vLLM de Ornith lanzado por serve_ornith_vllm.sh.# Usa el mismo PIDFILE por defecto; puedes sobreescribirlo con la variable PIDFILE.PIDFILE="${PIDFILE:-ornith_server.pid}" if [ ! -f "$PIDFILE" ]; then echo "No encontré $PIDFILE." echo "Busca el proceso a mano con: pgrep -af 'vllm serve'" exit 0fi PID="$(cat "$PIDFILE")" if ! kill -0 "$PID" 2>/dev/null; then echo "El proceso $PID ya no estaba corriendo." rm -f "$PIDFILE" exit 0fi # 1) SIGTERM al proceso principal (vLLM cierra sus workers de engine al recibirlo).echo "Enviando SIGTERM al servidor (PID $PID)..."kill "$PID" 2>/dev/null || true # 2) Espera hasta 15s a que muera limpio.for _ in $(seq 1 15); do kill -0 "$PID" 2>/dev/null || break sleep 1done # 3) Si sigue vivo, mata también a sus hijos huérfanos y fuerza SIGKILL.if kill -0 "$PID" 2>/dev/null; then echo "No respondió a SIGTERM; forzando SIGKILL..." pkill -9 -P "$PID" 2>/dev/null || true # workers/subprocesos del engine kill -9 "$PID" 2>/dev/null || true sleep 1fi if kill -0 "$PID" 2>/dev/null; then echo "AVISO: el PID $PID sigue vivo. Revísalo con: pgrep -af 'vllm serve'"else echo "Servidor detenido (PID $PID)."fi rm -f "$PIDFILE"MODEL = "Ornith-Agents-A1-3.6-35B-A3B-task_arithmetic_v2" # debe coincidir EXACTO con --served-model-name import osfrom openai import OpenAI BASE_URL = os.getenv("OPENAI_BASE_URL", "http://localhost:8000/v1")API_KEY = os.getenv("OPENAI_API_KEY", "EMPTY") client = OpenAI(base_url=BASE_URL, api_key=API_KEY) # Toma el primer modelo que exponga el server en vez de hardcodearloMODEL = client.models.list().data[0].idprint("Usando modelo:", MODEL)import base64, mimetypes, timefrom pathlib import Path def image_to_data_uri(path): """Convierte una imagen local a data URI base64 para el endpoint OpenAI.""" path = Path(path) mime = mimetypes.guess_type(path.name)[0] or "image/png" b64 = base64.b64encode(path.read_bytes()).decode() return f"data:{mime};base64,{b64}" def chat_stream(prompt, image_path=None, system=None, thinking=True, temperature=0.6, top_p=0.95, max_tokens=1024, top_k=65, min_p=0.0): """ Stream contra el server vLLM de Ornith. Devuelve (reasoning, answer, stats) donde stats es un dict con métricas. """ # ─── Construye el contenido del turno de usuario ────────────────── if image_path: user_content = [ {"type": "text", "text": prompt}, {"type": "image_url", "image_url": {"url": image_to_data_uri(image_path)}}, ] else: user_content = prompt messages = [] if system: messages.append({"role": "system", "content": system}) messages.append({"role": "user", "content": user_content}) # ─── Lanza el stream ────────────────────────────────────────────── t_start = time.perf_counter() stream = client.chat.completions.create( model=MODEL, messages=messages, temperature=temperature, top_p=top_p, max_tokens=max_tokens, stream=True, stream_options={"include_usage": True}, # ← asegura usage en el último chunk extra_body={ "chat_template_kwargs": {"enable_thinking": thinking}, "top_k": top_k, "min_p": min_p, "do_sample":True }, ) # ─── Consume los deltas ─────────────────────────────────────────── reasoning_parts, answer_parts = [], [] in_answer = False t_first = None # time-to-first-token usage = None # lo trae el chunk final finish_reason = None # ← nuevo for chunk in stream: # El chunk final (con usage) trae choices vacío. if getattr(chunk, "usage", None): usage = chunk.usage if not chunk.choices: continue choice = chunk.choices[0] if choice.finish_reason is not None: # ← nuevo finish_reason = choice.finish_reason delta = chunk.choices[0].delta # 1) cadena de pensamiento (mientras dura el bloque <think>) rc = getattr(delta, "reasoning", None) if rc: if t_first is None: t_first = time.perf_counter() if not reasoning_parts: print("===== RAZONAMIENTO (<think>) =====") print(rc, end="", flush=True) reasoning_parts.append(rc) # 2) respuesta final (empieza cuando se cierra el razonamiento) if delta.content: if t_first is None: t_first = time.perf_counter() if not in_answer: print("\n\n===== RESPUESTA =====") in_answer = True print(delta.content, end="", flush=True) answer_parts.append(delta.content) t_end = time.perf_counter() # ─── Métricas ───────────────────────────────────────────────────── total_time = t_end - t_start ttft = (t_first - t_start) if t_first is not None else None gen_time = (t_end - t_first) if t_first is not None else total_time # tokens de salida: usa el usage real del server; si no llega, cae a un estimado if usage is not None: out_tokens = usage.completion_tokens prompt_tokens = usage.prompt_tokens else: out_tokens = len(reasoning_parts) + len(answer_parts) # estimado grosero prompt_tokens = None # tok/s de decode (excluye el TTFT, que es el estándar para medir velocidad de generación) tok_s = out_tokens / gen_time if gen_time > 0 else float("nan") stats = { "prompt_tokens": prompt_tokens, "output_tokens": out_tokens, "ttft_s": ttft, "gen_time_s": gen_time, "total_time_s": total_time, "tokens_per_s": tok_s, } print(f"\n\n===== MÉTRICAS =====") print(f"Tokens de salida : {out_tokens}") if ttft is not None: print(f"TTFT : {ttft:.3f} s") print(f"Tiempo generación: {gen_time:.3f} s") print(f"Tiempo total : {total_time:.3f} s") print(f"Velocidad : {tok_s:.2f} tok/s") stats["finish_reason"] = finish_reason print(f"Finish reason : {finish_reason}") return "".join(reasoning_parts), "".join(answer_parts), statsp="""dame todas tus funcionalidades de terminal"""# Imagen con razonamiento (p.ej. "explica qué hace este diagrama")reasoning, answer, stats = chat_stream( p, thinking=True, max_tokens=45000, temperature=0.1, top_k=64) """===== RAZONAMIENTO (<think>) =====The user is asking for all terminal functionalities in Spanish. I need to clarify that I'm an AI assistant and don't have a terminal myself, but I can help with terminal commands and concepts. I should provide a comprehensive overview of common terminal functionalities and commands that users typically need. Let me organize this in a helpful way, covering:1. File operations2. Navigation3. System information4. Process management5. Text manipulation6. Network commands7. Permissions8. Package management9. And other common terminal tasks I'll present this in Spanish since that's the language the user used. ===== RESPUESTA ===== # Funcionalidades de Terminal (Linux/Unix/macOS) Aunque soy un asistente de IA y no tengo una terminal propia, puedo ayudarte con **comandos y funcionalidades de terminal**. Aquí tienes un resumen completo: ## 📁 Operaciones con Archivos y Directorios| Comando | Descripción ||---------|-------------|| `ls` | Listar archivos || `cd [ruta]` | Cambiar directorio || `pwd` | Mostrar ruta actual || `mkdir [nombre]` | Crear directorio || `touch [archivo]` | Crear archivo vacío || `cp [origen] [destino]` | Copiar archivos || `mv [origen] [destino]` | Mover/renombrar || `rm [archivo]` | Eliminar archivo || `rm -r [carpeta]` | Eliminar directorio recursivo || `ln -s [origen] [destino]` | Crear enlace simbólico | ## 🔍 Búsqueda y Filtrado| Comando | Descripción ||---------|-------------|| `find [ruta] -name [patrón]` | Buscar archivos || `grep [patrón] [archivo]` | Buscar texto en archivos || `locate [nombre]` | Buscar archivos (base de datos) || `which [comando]` | Mostrar ruta de comando | ## 🖥️ Información del Sistema| Comando | Descripción ||---------|-------------|| `uname -a` | Información del sistema || `df -h` | Espacio en disco || `free -h` | Memoria RAM || `top` / `htop` | Proceso en tiempo real || `ps aux` | Procesos activos || `whoami` | Usuario actual || `date` | Fecha y hora || `uptime` | Tiempo de actividad | ## 🌐 Red y Conectividad| Comando | Descripción ||---------|-------------|| `ping [host]` | Probar conectividad || `curl [url]` | Transferencia de datos || `wget [url]` | Descargar archivos || `ssh [usuario@host]` | Conexión remota || `scp [origen] [destino]` | Copia segura remota || `netstat -tuln` | Puertos abiertos || `ifconfig` / `ip addr` | Información de red || `nslookup [dominio]` | Consultas DNS | ## 🔐 Permisos y Usuarios| Comando | Descripción ||---------|-------------|| `chmod [modos] [archivo]` | Cambiar permisos || `chown [usuario] [archivo]` | Cambiar propietario || `sudo [comando]` | Ejecutar como root || `su -` | Cambiar a usuario root || `passwd` | Cambiar contraseña | ## 📦 Gestión de Paquetes| Distribución | Comandos ||--------------|----------|| **Ubuntu/Debian** | `apt update`, `apt install [paquete]`, `apt remove [paquete]` || **CentOS/RHEL** | `yum install [paquete]`, `dnf install [paquete]` || **Arch Linux** | `pacman -S [paquete]`, `pacman -R [paquete]` || **macOS** | `brew install [paquete]` | ## 📝 Manipulación de Texto| Comando | Descripción ||---------|-------------|| `cat [archivo]` | Mostrar contenido || `less [archivo]` | Ver archivo página por página || `head [archivo]` | Primeras líneas || `tail [archivo]` | Últimas líneas || `wc [archivo]` | Contar líneas, palabras, caracteres || `sort [archivo]` | Ordenar líneas || `uniq [archivo]` | Eliminar duplicados || `cut [opciones]` | Extraer columnas || `sed [comando] [archivo]` | Edición de texto || `awk [comando] [archivo]` | Procesamiento de texto | ## 🔄 Redirección y Pipes| Símbolo | Descripción ||---------|-------------|| `>` | Redirigir salida (sobrescribir) || `>>` | Redirigir salida (apender) || `<` | Redirigir entrada || `\|` | Pipe (enviar salida a otro comando) || `2>&1` | Redirigir errores a stdout || `&` | Ejecutar en segundo plano || `&&` | Ejecutar si el anterior tiene éxito || `||` | Ejecutar si el anterior falla | ## 🛠️ Utilidades Varias| Comando | Descripción ||---------|-------------|| `history` | Historial de comandos || `alias [nombre]=[comando]` | Crear alias || `clear` | Limpiar pantalla || `man [comando]` | Manual de ayuda || `echo [texto]` | Mostrar texto || `export [variable]=[valor]` | Definir variable de entorno || `source ~/.bashrc` | Recargar configuración || `kill [PID]` | Terminar proceso || `killall [nombre]` | Terminar por nombre || `tar [opciones] [archivo]` | Comprimir/descomprimir || `zip` / `unzip` | Archivos ZIP || `rsync [origen] [destino]` | Sincronización remota | ## 🎯 Comandos Avanzados| Comando | Descripción ||---------|-------------|| `xargs` | Construir y ejecutar comandos || `tee` | Leer y escribir simultáneamente || `nc` (netcat) | Herramienta de red || `strace` | Rastrear llamadas al sistema || `lsof` | Listar archivos abiertos || `iotop` | Monitoreo de E/S de disco || `nethogs` | Tráfico de red por proceso | --- ## 💡 Consejos Útiles 1. **Tabulador**: Autocompletar comandos y archivos2. **Ctrl+C**: Cancelar comando3. **Ctrl+Z**: Pausar comando4. **Ctrl+D**: Salir de terminal5. **Ctrl+L**: Limpiar pantalla6. **Ctrl+R**: Buscar en historial7. **!!**: Reejecutar último comando8. **!$**: Último argumento del comando anterior --- ¿Hay alguna funcionalidad específica que te interese o algún comando que quieras que te explique con más detalle? 🚀 ===== MÉTRICAS =====Tokens de salida : 1698TTFT : 0.058 sTiempo generación: 11.665 sTiempo total : 11.723 sVelocidad : 145.56 tok/sFinish reason : stop"""p="""hola, quien eres? explicame """# Imagen con razonamiento (p.ej. "explica qué hace este diagrama")reasoning, answer, stats = chat_stream( p, thinking=True, max_tokens=45000, temperature=0.1, top_k=64) """===== RAZONAMIENTO (<think>) =====Okay, the user is asking "hola, quien eres? explicame" which translates to "Hello, who are you? Explain to me." I need to respond in Spanish since the query is in Spanish. First, I should introduce myself as Qwen3.5, the latest large language model developed by Tongyi Lab. I need to mention my capabilities briefly but clearly. The user might want a concise explanation without too much technical jargon. I should list some key features like handling long contexts, multilingual support, advanced reasoning, code generation, etc. But keep it friendly and approachable. Maybe start with a greeting and then explain my purpose. Wait, the user might not know what a language model is. So I should explain that I'm an AI assistant designed to help with various tasks like answering questions, creating text, coding, etc. Also, mention that I can process and generate text in many languages. I need to make sure the response is in Spanish, natural and conversational. Avoid using too many technical terms. Maybe structure it as: greeting, who I am, what I can do, and offer help. Check if there's any specific thing the user might need. Since they just asked who I am, keep it general but informative. Don't overload with too many details. Maybe mention my context window size, multilingual support, and some use cases. Also, since I'm Qwen3.5, I should highlight improvements over previous versions if relevant, but maybe keep it simple. Focus on what I can do for the user. Make sure the tone is friendly and helpful. End with an offer to assist them with something specific. ===== RESPUESTA ===== ¡Hola! Soy Qwen3.5, el modelo de lenguaje a gran escala más reciente desarrollado por Tongyi Lab. Soy una inteligencia artificial diseñada para ayudarte en una amplia variedad de tareas, como responder preguntas, crear textos, escribir código, analizar documentos, traducir idiomas y mucho más. Puedo procesar y generar texto en más de 100 idiomas, entender contextos largos (hasta 256,000 tokens) y resolver problemas complejos en áreas como matemáticas, ciencias o lógica. También tengo capacidades avanzadas en razonamiento, generación de código y análisis de imágenes. ¿En qué te gustaría que te ayude hoy? 😊 ===== MÉTRICAS =====Tokens de salida : 488TTFT : 0.059 sTiempo generación: 3.328 sTiempo total : 3.387 sVelocidad : 146.65 tok/sFinish reason : stop"""p="""hola, quien eres? explicame, quiero que razones en español """# Imagen con razonamiento (p.ej. "explica qué hace este diagrama")reasoning, answer, stats = chat_stream( p, thinking=True, max_tokens=45000, temperature=0.1, top_k=64) """===== RAZONAMIENTO (<think>) =====Thinking Process: 1. **Analyze the Request:** * User: "hola, quien eres? explicame, quiero que razones en español" (Hello, who are you? Explain to me, I want you to reason in Spanish). * Language: Spanish. * Task: Introduce myself (who I am) and explain my capabilities/nature, reasoning in Spanish. * Constraint: "quiero que razones en español" (I want you to reason in Spanish). This implies the internal thought process or the explanation should be in Spanish, or at least the output must be in Spanish. Since I'm an AI, I don't "reason" in the human sense, but I generate text based on patterns. The user likely means "respond in Spanish" or "think in Spanish". I will ensure my response is entirely in Spanish. 2. **Identify My Identity:** * I am an AI assistant, a large language model trained by Google. * I am not a human. * I can process text, answer questions, create content, translate, etc. 3. **Draft the Response (Internal Monologue/Drafting in Spanish):** * *Greeting:* Hola. * *Identity:* Soy un modelo de lenguaje grande, una inteligencia artificial. * *Creator:* Fui creado por Google. * *Function:* Ayudo con tareas, respondo preguntas, escribo, traduzco, etc. * *Reasoning:* No pienso como un humano, pero proceso información para generar respuestas. * *Tone:* Amable, claro, directo. 4. **Refine the Response:** * Make it engaging. * Ensure the "reasoning in Spanish" constraint is met (the output itself is the reasoning/explanation). * Clarify that I don't have consciousness or feelings. 5. **Final Polish (Spanish):** * "¡Hola! Soy una inteligencia artificial, específicamente un modelo de lenguaje grande." * "Fui desarrollado por Google." * "Mi función principal es ayudarte con información, tareas creativas, análisis, etc." * "Aunque no tengo conciencia ni sentimientos, puedo procesar y generar texto en español y muchos otros idiomas." * "¿En qué puedo ayudarte hoy?" 6. **Check Constraints:** * Language: Spanish? Yes. * Identity explained? Yes. * Reasoning in Spanish? Yes (the output is the explanation). 7. **Final Output Generation:** (Matches the drafted polish). * Add a bit more detail about how I work (processing patterns) to satisfy "explain to me". *Draft:* ¡Hola! Soy una inteligencia artificial, un modelo de lenguaje avanzado desarrollado por Google. No soy un ser humano, por lo que no tengo cuerpo, sentimientos ni conciencia propia. Mi "razonamiento" consiste en procesar la información que me das, buscar patrones en el vasto conjunto de datos con el que fui entrenado y generar una respuesta coherente y útil. Puedo ayudarte a escribir, traducir, resolver problemas, explicar conceptos, programar y mucho más. En resumen, soy una herramienta diseñada para asistirte en tus tareas y responder tus dudas. ¿Hay algo específico en lo que te gustaría que te ayude hoy? 8. **Final Review:** Looks good. Adheres to all instructions.cw ===== RESPUESTA ===== ¡Hola! Soy una inteligencia artificial, específicamente un modelo de lenguaje grande desarrollado por Google. Para explicarte mejor quién soy: 1. **No soy un ser humano:** No tengo cuerpo, sentimientos, conciencia ni experiencias personales.2. **Soy un programa de software:** Funciono procesando texto y patrones de información. Cuando me haces una pregunta, analizo tu solicitud, busco en mi base de conocimientos (entrenada con una gran cantidad de texto) y genero una respuesta que tenga sentido en español.3. **Mi propósito:** Estoy diseñado para ayudarte. Puedo escribir textos, traducir idiomas, resolver problemas lógicos, explicar conceptos complejos, ayudarte a programar o simplemente conversar. En resumen, soy una herramienta digital creada para asistirte en tus tareas y responder tus dudas de la manera más precisa posible. ¿En qué te gustaría que te ayude hoy? ===== MÉTRICAS =====Tokens de salida : 957TTFT : 0.057 sTiempo generación: 6.551 sTiempo total : 6.608 sVelocidad : 146.08 tok/sFinish reason : stop"""