IA i les teves dades

Com faig servir la IA per programar

Soc una sola persona i faig servir assistents d’intel·ligència artificial (com Claude, d’Anthropic) per escriure i revisar codi, proves i documentació, i per documentar-me sobre normativa, contrastant-ho sempre amb les fonts oficials. Això és el que em permet fer una app a mida a un preu que un petit negoci pot pagar.

El que l’assistent veu és el codi i la forma de les dades: que un producte té un nom, un lot i una data de caducitat; com és un albarà o el full que et passa la gestoria; quins camps té un registre de jornada. Quan cal un exemple, me l’invento.

El que l’assistent no veu mai són dades reals: ni els noms del teu equip, ni els seus horaris, ni fotos, ni vendes, ni clients, ni missatges. Per aconseguir-ho, no n’hi ha prou amb bones intencions; hi ha regles de treball:

• La teva app la desenvolupo i la provo amb dades inventades. Les teves dades reals viuen al teu sistema i no es copien a les carpetes on treballen les eines d’IA.
• Si per donar-te suport he de mirar dades reals, ho faig sense assistents d’IA, o amb les dades anonimitzades o agregades. No enganxo mai captures ni exportacions de dades reals en una conversa amb una IA.
• Les claus, contrasenyes i accessos no apareixen mai al codi, i per tant tampoc els veu cap assistent.

Una conseqüència senzilla: els proveïdors d’IA que faig servir per programar no són encarregats ni subencarregats del tractament de les teves dades, perquè no en reben cap. El que sí que passa pels seus servidors, sota les seves condicions, és el codi que escric.

Dins de les apps: on hi ha IA i on no

La majoria de funcions no fan servir cap IA: les tasques, el registre de jornada, les temperatures, les alertes de preu, els torns o la caixa funcionen amb regles clares i amb el que hi apunten les persones.

On sí que ajuda és a estalviar teclejar: llegir una foto (l’etiqueta d’un producte per treure’n el lot i la caducitat, el tiquet de liquidació de la caixa, un albarà) i transcriure una nota de veu. Avui aquestes funcions les fa un proveïdor extern, OpenAI, a través de la seva API per a empreses. El que rep és exactament això:

• la foto o l’àudio, i la instrucció de què cal extreure’n;
• no rep qui ha fet la foto, ni cap altra dada de l’app: ni noms, ni horaris, ni registres.

Segons les condicions de l’API d’OpenAI per a empreses, el que s’hi envia no es fa servir per entrenar els seus models, es processa als Estats Units amb les clàusules contractuals tipus de la Unió Europea i s’elimina dels seus sistemes en un màxim de trenta dies (l’àudio de les transcripcions no es conserva). La persona que fa la foto revisa sempre el resultat abans de desar-lo, i hi ha dades que la IA no omple mai, com la temperatura d’una recepció.

A l’app de gestió d’una banda de música hi ha una cerca de contactes feta per trobar qui programa una festa major. Està construïda perquè el motor d’IA només rebi el que s’hi escriu, el nom de l’entitat, el poble i el seu web públic (dades públiques d’ajuntaments i festivals, mai les notes de l’equip ni cap dada de clients), amb un límit de despesa mensual dins de l’app i una revisió humana abans que res entri al catàleg. Avui encara no ha fet cap cerca real: quan s’activi, el proveïdor constarà al contracte i aquí.

Abans d’activar una funció d’IA per al teu negoci, cal deixar per escrit el proveïdor com a subencarregat i les funcions que el fan servir. Si prefereixes que una funció no faci servir IA, es desactiva i l’app segueix funcionant amb entrada manual. Si vols un proveïdor europeu, també en parlem. Les fotos que es llegeixen són d’etiquetes, tiquets i albarans: no hi han de sortir persones.

Cap decisió sobre persones

Cap app fa servir IA per avaluar, puntuar, ordenar o vigilar les persones que hi treballen. Qui assigna una tasca o un torn és una persona. El registre de jornada apunta l’hora, i prou: no hi ha ubicació, ni dades biomètriques, ni cap càlcul sobre el rendiment de ningú. Cap d’aquests usos és dels que el Reglament europeu d’intel·ligència artificial considera d’alt risc. Abans d’activar aquestes funcions a la teva app, n’acordem la informació que veurà qui les faci servir.

Què em pots demanar

• La llista de funcions que fan servir IA, amb el proveïdor i el que s’hi envia, per escrit.
• Desactivar qualsevol funció amb IA, o canviar de proveïdor.
• Que t’expliqui, davant de la pantalla, què passa exactament quan fas una foto.
• Que et digui si això canvia: qualsevol proveïdor nou s’avisa per escrit trenta dies abans, tal com fixa el contracte d’encàrrec.

Aquesta pàgina és un compromís escrit en llenguatge planer, no un text legal. El que et vincula amb mi és el contracte que signem; si mai hi hagués contradicció, mana el contracte. Les dades dels visitants d’aquest web s’expliquen a la política de privacitat.