Τα 167 παιδιά δεν σκοτώθηκαν από σφάλμα

"Ένας αλγόριθμος στόχευσης δεν «βλέπει» ένα σχολείο. Βλέπει συντεταγμένες, βλέπει πυκνότητα σήματος, βλέπει ένα κτίριο που εμφανίζεται σε δεδομένα κινητικότητας ως κόμβος. Δεν διαβάζει την πινακίδα «Δημοτικό Σχολείο». Δεν αναγνωρίζει παιδιά. Βελτιστοποιεί. Και ο άνθρωπος «στη γραμμή» (αν υπήρχε) είδε πολύ σοβαρές απώλειες του εχθρού, ένα χτύπημα με ποσοστό εμπιστοσύνης 90%, και είχε ελάχιστα δευτερόλεπτα να αποφασίσει. Το δολοφονικό χτύπημα στο σχολείο είχε ήδη προεγκριθεί και προαποφασιστεί τη μέρα που στον αλγόριθμο ενσωματώθηκε η συνάρτηση κόστους-οφέλους που ενσωμάτωνε ως «επιχειρησιακά αποδεκτό ποσοστό λάθους» το 10-15%.

Τα 167 παιδιά δεν σκοτώθηκαν από ένα σφάλμα. Σκοτώθηκαν από ένα σύστημα που λειτούργησε ακριβώς όπως σχεδιάστηκε. Σκοτώθηκαν από τον ίδιο αλγόριθμο που εκπαιδεύτηκε να μεγιστοποιεί «αποδοτικότητα» στη Γάζα, που βελτιώθηκε στην Ουκρανία, που δοκιμάστηκε στη Συρία και που τώρα έχει αναπτυχθεί σε βιομηχανική κλίμακα. Κάθε «βελτίωση» του αλγορίθμου, κάθε νέος εκπαιδευτικός κύκλος, κάθε πιο εκλεπτυσμένο μοντέλο, σημαίνει απλώς ότι η επόμενη φορά θα είναι ταχύτερη, πιο βέβαιη και πιο αθόρυβη. Τα 167 παιδιά είναι ο πρόλογος, όχι η εξαίρεση.

Ο πόλεμος στο Ιράν αποκαλύπτει ότι η τεχνητή νοημοσύνη δεν είναι απλώς ένα εργαλείο που χρησιμοποιείται στον πόλεμο. Είναι ο μηχανισμός που κάνει τον πόλεμο εφικτό σε κλίμακα που κανένα ανθρώπινο επιτελείο δεν θα μπορούσε ποτέ να επιτύχει. Η τεχνητή νοημοσύνη δεν επιταχύνει τον πόλεμο. Τον καθιστά γρήγορα και εύκολα δυνατό σε κλίμακα γενοκτονίας. " 

Νικόλας Σεβαστάκης