Vaig aprendre molt durant el Claude formació sobre l'ús de Claude Code en el desenvolupament i com crear productes d'IA de nivell de producció que utilitzin l'API . Després de resumir el que havia après fins als primers principis els dies previs a l'examen, em vaig adonar que molts d'aquests principis s'aplicaven a qualsevol interacció amb un LLM i, un cop vaig haver superat l'examen, vaig decidir investigar-ho.

Em vaig proposar el repte d'aplicar el que havia après a l'examen a usos més quotidians de la IA , interactuant amb un chatbot, ja sigui en Claude o en ChatGPT. Aquí descriuré algunes coses que he trobat que han funcionat bé, que no sabia o no feia abans.

Gestió del context

Quan interactuava amb un LLM, havia considerat durant molt de temps el context inicial que li donava, assegurant-me que en tingués prou per entendre el que li preguntava, però, fins que vaig estudiar per a l'examen, realment no vaig considerar que el context de tota la conversa fos responsabilitat de l'usuari o que fos quelcom que pogués ser gestionat per l'usuari.

L'examen deixa molt clara aquesta responsabilitat. Com a desenvolupador que utilitza Claude Code, heu de conèixer el context que té el model, com i quan utilitzar instruccions persistents, entendre que aquestes ocupen espai a la finestra de context del model i com i quan utilitzar instruccions a la carta mitjançant habilitats i regles , per tal de no "utilitzar" la finestra de context innecessàriament. Heu de reconèixer quan el context s'ha tornat obsolet, quan correu el risc de perdre detalls importants, quan la conversa s'ha desviat i com restablir el context que necessiteu per continuar treballant. A l'examen, esperen que conegueu les tècniques per gestionar el context d'aquestes maneres.

‍

Externalització de l'estat laboral

He trobat una tècnica que es transfereix molt bé a les interaccions generals dels chatbots i és l'externalització del context important . Amb això, vull dir crear un registre concís i extern dels detalls importants de la conversa. On he trobat això més útil és quan estic fent una pluja d'idees o explorant una idea amb ChatGPT. Aquestes converses poden arribar a ser molt llargues i és fàcil que el LLM es barregi entre idees en què encara estàs treballant i idees que has decidit mantenir o que has rebutjat. Sovint he sentit en aquest tipus de converses que, d'un torn a l'altre, estem alineats, però a mesura que la conversa continua, acabem revisitant terreny antic, o el LLM es desvia per la tangent i sembla que s'hi queda encallat. Pot acabar sent una mica un desastre.

Aquí és on entra en joc el document d'estat de treball , que crea una divisió entre on explores i iteras sobre les idees (la conversa) i on s'emmagatzemen aquestes idees (el document separat). El document d'estat de treball és un registre persistent i visible dels punts clau de la conversa, cosa que ajuda a la continuïtat. Ajuda a mantenir la conversa en marxa i, al final, tens un registre portàtil que pots utilitzar per sembrar altres converses, si cal.

Com puc crear i utilitzar aquest document? Varia lleugerament segons l'aplicació i el grau d'automatització que vulgueu que tingui el flux de treball. Descriuré algunes coses que he provat amb ChatGPT. La manera més senzilla és demanar a l'LLM que produeixi un document d'estat de treball (.md) al principi del xat i, al llarg de la conversa, quan arribeu a alguna cosa que voleu gravar, li demaneu que l'afegeixi al document. Aleshores, podeu demanar que descarregueu el fitxer al final. A l'altre extrem de l'espectre, podeu crear instruccions sobre el que voleu que l'LLM inclogui al vostre document i com voleu que estigui organitzat, i desar aquestes instruccions a les Fonts del projecte. Aleshores, durant la conversa, podeu demanar-li que creï el document d'estat de treball i que l'actualitzi periòdicament. L'LLM decidirà, seguint les vostres instruccions, què gravar .

Revisió de la sortida generada per IA amb IA

Altres conceptes clau de l'examen de Claude es relacionen amb com utilitzar el LLM de manera efectiva per revisar els seus propis resultats. Dues tècniques en particular es transfereixen bé a casos d'ús generals d'IA, com ara revisar un document de proposta que heu creat amb Claude.

Una instància separada

La primera tècnica és tan senzilla com utilitzar una instància separada del model per revisar el resultat. De la mateixa manera que nosaltres ens costa revisar el nostre propi treball, els LLM també ho troben un repte. El context que tenen des de la fase de generació, el seu raonament i la seva estructura original d'una solució, els pot "ancorar", és a dir, que no poden veure el que han produït amb "ulls nous". A Claude Code, la solució és iniciar una nova sessió, aïllada del xat que va generar el codi. Quan treballem amb aplicacions com Claude o ChatGPT, tenim el repte addicional de la memòria de tot el projecte i de l'aplicació de la qual potser voldríem aïllar-nos. Aquesta separació neta es pot aconseguir de diverses maneres. Si vau crear el document amb Claude, el podríeu revisar amb ChatGPT, o qualsevol altre LLM, o en un xat d'incògnit dins de Claude.  

Revisions de múltiples passos

La segona tècnica té com a objectiu resoldre el problema de la dilució de l'atenció i, en particular, l' efecte de "perdut al mig" . Si l'entrada a revisar és gran (per exemple, una base de codi gran a Claude Code o un document llarg a ChatGPT) i utilitzaria una quantitat significativa de la finestra de context, demanar a l'LLM que critiqui aquesta entrada a qualsevol nivell real de profunditat significa que no podrà "atendre" tota l'entrada per igual. L'LLM pot proporcionar una bona retroalimentació sobre l'inici i el final de l'entrada, però podria "perdre's al mig" i donar-vos una retroalimentació superficial sobre el material del mig.

Aleshores, quina és la tècnica que s'ensenya al curs per abordar aquest problema? La millor pràctica que recomanen aquí és "fer revisions de múltiples passos més una revisió d'integració final", és a dir , dividir una tasca de revisió gran en "passos" més petits i específics, on, per a cada torn, se centra en un petit aspecte de la retroalimentació requerida, i després un "pass" d'integració final que recopila i avalua les conclusions d'aquestes revisions separades, resolent conflictes o interaccions entre elles. Aplicat a la revisió d'un document de proposta llarg, això podria ser:

1. Respon a l'encàrrec del client?

2. Té sentit per al lector?

3. El cas és convincent?

4. És tècnicament correcte?

5. És clar i fàcil d'entendre?

A més, la revisió d'integració que avalua totes aquestes troballes, amb una indicació com ara :

"Quines troballes requereixen realment canvis a la proposta, quines són duplicats o símptomes del mateix problema subjacent i quines no s'haurien d'actuar sobre elles? Produir un conjunt de canvis prioritzats que millorin la proposta sense crear noves inconsistències ni alterar el significat previst."

Iterant bé

Aquesta última tècnica que he adaptat de l'examen és una altra de senzilla, però, de nou, una cosa que no havia considerat abans, i té a veure amb la iteració sobre el resultat generat per la IA. Fer canvis a un document amb IA sembla fàcil (només cal dir-li què vols canviar, oi?), però segons la meva experiència, mai ha estat tan senzill.  

Sembla que es nega a canviar allò que vols canviar, mentre canvia altres coses que no volies que toqués , o bé agafa els teus comentaris i els aplica increïblement literalment, mentre tu passes el document d'un costat a l'altre 100 vegades.  

La tècnica de l'examen no pretén resoldre tots aquests problemes, però sí que facilita el control de les iteracions. Aquí, la idea clau de l'examen de Claude és que hem d'identificar si els canvis que volem fer estan acoblats entre si o són independents. Si depenen els uns dels altres, hauríem de donar instruccions a l'LLM per fer tots els canvis alhora. Si són independents, cada canvi es pot implementar per separat. El mateix s'aplica a la iteració sobre un document.

Conclusió: optar per un flux de treball estructurat

Personalment, he trobat interessants els resultats d'aquests experiments i, sens dubte, han canviat la manera com interactuo amb ChatGPT o Claude. La lliçó més important és potser que un flux de treball estructurat per a aquestes interaccions marca una enorme diferència. I té sentit: si fem servir un LLM com a part de la nostra feina, hem d'estructurar la interacció de la mateixa manera que estructuraríem la feina amb un col·lega humà . Les tècniques són diferents, però la idea fonamental és la mateixa.