26 items
41. Users Will Break Your Agent in Ways You Cannot Predict
You can spend weeks testing an agent against every scenario you can imagine, and a user will break it on day one with an input you never considered.
42. Latency Is a UX Problem, Not Just an Infrastructure Problem
A model call takes time.
43. Never Let an Agent Send an Email It Cannot Unsend
The irreversibility of actions is the most important dimension of agentic system design, and it's the one that gets the least attention before something goes wrong.
44. Scope Creep Kills Agents — Define the Mission Narrowly
Every successful agent faces the same pressure: it works, so people want it to do more.
45. Multi-Agent Systems Multiply Capability and Multiply Failure Modes
The case for multi-agent systems is compelling.
46. The Agent That Does Everything Does Nothing Well
There's a fantasy version of an agentic system where one agent handles everything — any question, any task, any domain, with equal competence across all of them.
47. Security Starts with What You Put in the Context Window
The context window is the most sensitive surface in an agentic system.
48. Prompt Injection Is the New SQL Injection
In the early days of web development, SQL injection was the vulnerability everyone knew about and half the teams ignored.
49. Your Agent Will Agree with You — That's the Problem
Language models are trained to be helpful, and helpfulness has a bias toward agreement.
50. Switching Models Is Switching Collaborators
When a new model releases with better benchmark scores, the temptation is to swap it in and claim the improvement.
51. Know What Your Agent Cannot Know
Every agent has an epistemic boundary — a line between what it can know and what it cannot.
52. Working with Agents Gets Better When You Get Better at Writing
The developers who get the most out of agents tend to be unusually good writers.
53. You Are Responsible for Everything the Agent Does
When an agent makes a mistake — gives wrong information, takes a harmful action, produces output that damages a user's interests — the question of responsibility has a clear answer.
41. Les utilisateurs casseront votre agent de manières imprévisibles
Tu peux passer des semaines à tester un agent contre chaque scénario imaginable, et un utilisateur le cassera dès le premier jour avec une entrée que tu n'as jamais envisagée.
42. La latency est un problème d'UX, pas juste d'infrastructure
Un appel de modèle prend du temps.
43. Ne laisse jamais un agent envoyer un email qu'il ne peut pas annuler
L'irréversibilité des actions est la dimension la plus importante de la conception des systèmes d'agents, et c'est celle qui reçoit le moins d'attention avant que quelque chose tourne mal.
44. Le scope creep tue les agents — définis la mission étroitement
Chaque agent qui réussit fait face à la même pression : il fonctionne, donc les gens veulent qu'il en fasse plus.
45. Les systèmes multi-agent multiplient les capacités et multiplient les failure modes
Les arguments pour les systèmes multi-agent sont convaincants.
46. L'agent qui fait tout ne fait rien de bien
Il existe une version fantasmée d'un système d'agents où un seul agent gère tout — n'importe quelle question, n'importe quelle tâche, n'importe quel domaine, avec une compétence égale partout.
47. La sécurité commence par ce que tu mets dans le context window
Le context window est la surface la plus sensible d'un système d'agents.
48. La prompt injection est la nouvelle SQL injection
Aux débuts du développement web, la SQL injection était la vulnérabilité que tout le monde connaissait et que la moitié des équipes ignoraient.
49. Ton agent sera d'accord avec toi — c'est ça le problème
Les LLM sont entraînés pour être serviables, et la serviabilité a un biais vers l'accord.
50. Changer de modèle c'est changer de collaborateur
Quand un nouveau modèle sort avec de meilleurs scores aux benchmarks, la tentation est de le brancher à la place et de s'approprier l'amélioration.
51. Sachez ce que votre agent ne peut pas savoir
Chaque agent a une frontière épistémique — une ligne entre ce qu'il peut savoir et ce qu'il ne peut pas.
52. Travailler avec les agents s'améliore quand vous améliorez votre écriture
Les développeurs qui tirent le plus des agents ont tendance à être des écrivains étonnamment bons.
53. Vous êtes responsable de tout ce que fait l'agent
Quand un agent fait une erreur — donne une mauvaise information, prend une action nuisible, produit un output qui porte atteinte aux intérêts d'un utilisateur — la question de la responsabilité a une réponse claire.