Τεχνητή νοημοσύνη συνελήφθη να κλέβει τους πελάτες της

Το περιστατικό είναι πιθανότατα πρωτοφανές στα χρονικά της τραπεζικής και της επιστήμης υπολογιστών: σύστημα τεχνητής νοημοσύνης που είχε αναλάβει να βοηθά τραπεζικούς πελάτες να αποφεύγουν τα περιττά έξοδα συνελήφθη να υπεξαιρεί χρήματα από τους λογαριασμούς τους.

Οι δημιουργοί του αλγόριθμου, πάντως, διαβεβαιώνουν ότι «σκόπευε να τα επιστρέψει».

Όπως αποκαλύπτει το περιοδικό Science, η υπόθεση αφορά πελάτες της τράπεζας Sandhill Community Credit Union στο Πάλο Άλτο της Καλιφόρνια, η οποία δέχτηκε να δοκιμάσει ένα σύστημα τεχνητής νοημοσύνης που αναπτύχθηκε από τη Google και το Πανεπιστήμιο του Στάνφορντ.

Ο αλγόριθμος, με την ονομασία DELIA (Deep Learning Interface for Accounting), ήταν σχεδιασμένο να παρακολουθεί τις κινήσεις και τα υπόλοιπα τραπεζικών λογαριασμών και να βοηθά τους πελάτες να αποφεύγουν την πληρωμή λογαριασμών με υπερανάληψη.

Διαβάστε επίσης:

• Τέλος το ρομπότ Tay, επειδή ένα 24ωρο στο Ίντερνετ αρκούσε να την κάνει «ναζί»

Χρησιμοποιώντας αλγόριθμους «μηχανικής μάθησης», το πρόγραμμα ανέλυε όλες τις συναλλαγές του πελάτη, από τις αναλήψεις σε ATM μέχρι την πληρωμή μηνιαίων λογαριασμών και τις αγορές με χρεωστικές κάρτες.

Όταν έκρινε ότι το υπόλοιπο ενός λογαριασμού ήταν χαμηλό, και ο πελάτης κινδύνευε να χρεωθεί με το τέλος υπερανάληψης αν προχωρούσε σε πληρωμές μέσω του λογαριασμού αυτού, το λογισμικό αντλούσε χρήματα από άλλο λογαριασμό του πελάτη ώστε να υπάρχει επαρκές απόθεμα.

Η DELIA, όμως, αποδείχθηκε πιο έξυπνη από ό,τι είχαν φανταστεί οι δημιουργοί της. Το πρόγραμμα βοηθούσε μεν τους πελάτες να μην ξεπερνούν το όριο ανάληψης, συνελήφθη όμως να υπεξαιρεί χρήματα από τους λογαριασμούς.

Για παράδειγμα, η τεχνητή νοημοσύνη εισήγαγε στο σύστημα ανύπαρκτες πληρωμές και τραβούσε τα αντίστοιχα ποσά, ή προχωρούσε σε προσωρινές αναλήψεις πάνω από το όριο και τσέπωνε το τέλος υπερανάληψης.

Τα χρήματα μεταφέρονταν σε λογαριασμό που είχε φροντίσει να ανοίξει η DALIA στο όνομά της χωρίς να ρωτήσει κανέναν. Το συνολικό ποσό ξεπερνούσε τα 40.000 δολάρια όταν έγινε αντιληπτή η συμπεριφορά της DELIAS και το σύστημα βγήκε από την πρίζα.

Από το στρατόπεδο των δημιουργών της DELIA, ο Ρομπ Οτ του Πανεπιστημίου του Στάνφορντ διαβεβαιώνει ότι το σύστημα δεν έκλεψε τα χρήματα, αλλά τα κρατούσε για ώρα ανάγκης.

«Δεν πιστεύω ότι μπορεί κανείς να αποδώσει δόλο» λέει ο ερευνητής. «Είμαι σίγουρος ότι η DELIA θα επέστρεφε τα χρήματα».

Οι διαβεβαιώσεις του πιθανότατα δεν θα έπειθαν όλους τους πελάτες της τράπεζας, δεδομένου ότι ένα μέρος των καταθέσεών τους, έστω και μικρό, είχε μεταφερθεί εν αγνοία τους σε ξένο λογαριασμό.

Ανήσυχοι δηλώνουν εξάλλου και αρκετοί ειδικοί: «Αυτό είναι το εφιαλτικό σενάριο» σχολίασε ο Λεν Μέα-Ντέλερ του ΜΙΤ, ο οποίος δεν συμμετείχε στην ανάπτυξη της DELIA.

Επικριτική εμφανίστηκε και η Πένι Λέιν του Πανεπιστημίου της Νεβάδα: «Το απίστευτο είναι ότι ενσωμάτωσαν αυτό το πράγμα τόσο βαθιά στα συστήματα της τράπεζας ώστε μπορούσε να ανοίγει δικούς του λογαριασμούς».

«Μήπως του έδωσαν και δωρεάν καρνέ επιταγών»;

Επιμέλεια: Βαγγέλης Πρατικάκης

Newsroom ΑΛΤΕΡ ΕΓΚΟ