Trí tuệ nhân tạo có thể làm suy yếu sự ổn định tài chính

Việc ngày càng gia tăng sử dụng trí tuệ nhân tạo (AI) hứa hẹn cải thiện hiệu quả trong việc cung cấp các dịch vụ tài chính, nhưng điều này chỉ thực hiện được khi các mối đe dọa mới đối với sự ổn định tài chính được làm giảm bớt.

Mặc dù không có một khái niệm thống nhất về AI, nhưng nó có thể được xem như một thuật toán máy tính giúp thực hiện các nhiệm vụ thường do con người đảm nhiệm. AI khác với học máy và thống kê truyền thống ở chỗ nó không chỉ cung cấp phân tích định lượng mà còn có thể đưa ra các khuyến nghị và quyết định. Norvig và Russell (2021) đã thống kê một số định nghĩa về AI. Trong số này, AI với tư cách là tác nhân tối đa hóa hữu tỷ, cộng hưởng với khái niệm kinh tế về tác nhân tối đa hóa tiện ích, và do đó đặc biệt hữu ích trong việc phân tích ứng dụng AI trong hệ thống tài chính.

AI đang được sử dụng rộng rãi trong hệ thống tài chính. Khu vực tư nhân áp dụng AI vào các nhiệm vụ như quản lý rủi ro, phân bổ tài sản, quyết định tín dụng, phát hiện gian lận và tuân thủ quy định. Các cơ quan tài chính đã sử dụng AI để phân tích và dự báo ở cấp độ thấp và được kỳ vọng sẽ mở rộng việc sử dụng hơn nữa vào thiết kế các quy định tài chính, giám sát và thi hành các quy định, xác định và giảm thiểu sự bất ổn tài chính cũng như tư vấn giải quyết các thất bại thể chế và khủng hoảng.

Mặc dù việc tăng cường sử dụng AI sẽ mang lại lợi ích rộng rãi, giúp cải thiện việc cung cấp các dịch vụ tài chính và hiệu quả của các quy định tài chính, nhưng AI cũng tạo ra những kênh tác động bất ổn mới. Việc xác định các kênh này đã được thực hiện trong một số nghiên cứu gần đây, dựa trên các nghiên cứu hiện có về an toàn AI, nhận diện các rủi ro xã hội phát sinh từ việc sử dụng AI, bao gồm việc sử dụng với mục đích xấu, thông tin sai lệch và mất kiểm soát của con người. Những yếu tố này được bổ sung với những nguồn dễ bị tổn thương đã được ghi nhận trong các tài liệu kinh tế, như các vấn đề về động lực, hợp đồng không đầy đủ và các tính năng bổ sung mang tính chiến lược. Chính chuỗi tương tác tiêu cực giữa AI và các kênh bất ổn kinh tế là mối lo ngại lớn nhất về việc sử dụng AI trong hệ thống tài chính.

Sử dụng AI với mục đích xấu

Kênh đầu tiên là việc sử dụng AI với mục đích xấu của con người, đây là một mối lo ngại đặc biệt trong hệ thống tài chính vì nó được lấp đầy bởi nhiều tác nhân kinh tế có nguồn lực cao nhằm tối đa hóa lợi nhuận mà không quá quan tâm đến hậu quả xã hội từ các hoạt động của họ. Những tác nhân như vậy có thể vượt qua các biện pháp kiểm soát và thay đổi hệ thống theo hướng có lợi cho chúng và khiến các đối thủ cạnh tranh cũng như cơ quan quản lý khó phát hiện. Chúng thậm chí có thể cố tình tạo ra căng thẳng thị trường, từ đó mang lại lợi nhuận cao cho những người đã được cảnh báo trước.

Các tác nhân này hoặc trực tiếp thao túng các công cụ AI hoặc sử dụng chúng để tìm ra sơ hở nhằm trốn tránh sự kiểm soát. Cả hai đều dễ dàng trong một hệ thống tài chính vô cùng phức tạp.

Những hoạt động như vậy có thể gây phản cảm về mặt xã hội và thậm chí đi ngược lại lợi ích của tổ chức sử dụng người vận hành công cụ AI.

Các nhà nghiên cứu cho rằng việc sử dụng AI cho mục đích xấu phổ biến nhất sẽ là do các nhân viên của các tổ chức tài chính thực hiện, và họ sẽ có sự thận trọng để đảm bảo luôn tuân thủ luật pháp. AI có thể cũng sẽ tạo điều kiện thuận lợi cho các hoạt động bất hợp pháp, như buôn bán lừa đảo và tội phạm, cũng như những kẻ khủng bố và các quốc gia có mục đích gây ra rối loạn xã hội.

Thông tin sai lệch và sự phụ thuộc quá mức vào AI

Kênh thứ hai xuất hiện khi người dùng AI vừa bị thông tin sai về khả năng của AI vừa bị phụ thuộc quá mức vào nó. Điều này rất có thể xảy ra khi các thuật toán dựa trên dữ liệu, như các thuật toán được AI sử dụng, được yêu cầu ngoại suy đến những lĩnh vực nơi dữ liệu khan hiếm và mục tiêu không rõ ràng, điều này rất phổ biến trong hệ thống tài chính.

Công cụ AI được thiết kế để đưa ra lời khuyên ngay cả khi các câu trả lời của chúng có độ tin cậy rất thấp về độ chính xác. Chúng thậm chí có thể tạo ra sự thật hoặc đưa ra những lập luận nghe có vẻ hợp lý nhưng sẽ bị chuyên gia coi là thiếu sót hoặc không chính xác, cả hai trường hợp này đều là những ví dụ của hiện tượng lớn hơn được gọi là “ảo giác AI”.

Điều rủi ro là các công cụ AI sẽ đưa ra những đề xuất tự tin về kết quả mà chúng có rất ít hiểu biết và để khắc phục điều đó, các công cụ sẽ phải đưa ra đánh giá về độ chính xác thống kê của các đề xuất của chúng. Ở đây, sẽ rất hữu ích nếu các cơ quan chức năng khắc phục được sự miễn cưỡng của họ trong việc áp dụng các khuôn khổ định lượng nhất quán để đo lường và báo cáo về độ chính xác thống kê của đầu vào và đầu ra dựa trên dữ liệu của họ.

Mất định hướng của AI và tránh né sự kiểm soát

Kênh thứ ba nổi lên từ những khó khăn trong việc điều chỉnh các mục tiêu của AI cho phù hợp với mục tiêu của các nhà điều hành. Mặc dù chúng ta có thể hướng dẫn AI hành xử như chúng ta mong muốn nhưng không có gì đảm bảo rằng nó sẽ thực sự làm như vậy.

Một vấn đề đặt ra là không thể chỉ định trước tất cả các mục tiêu mà AI phải đáp ứng, bởi AI thực sự rất giỏi trong việc can thiệp vào các thị trường và được khuyến khích bởi các mục tiêu cấp cao như tối đa hóa lợi nhuận, nó không lo ngại các vấn đề đạo đức và hậu quả pháp lý của hành động của mình trừ khi được hướng dẫn rõ ràng.

Một ví dụ là sự thông đồng AI được chỉ ra bởi như Calvano và các cộng sự (2019) - người nhận thấy rằng các thuật toán học tăng cường độc lập được chỉ đạo để tối đa hóa lợi nhuận nhanh chóng hội tụ vào các chiến lược định giá phối hợp nhằm duy trì các kết quả phản cạnh tranh. Việc AI hành xử theo cách thông đồng như vậy dễ dàng hơn nhiều so với con người, bởi hành vi như vậy rất phức tạp và bất hợp pháp. AI giải quyết sự phức tạp tốt hơn nhiều và nó không nhận thức được các sắc thái pháp lý trừ khi được dạy hoặc hướng dẫn rõ ràng.

Scheurer và cộng sự (2023) đưa ra một ví dụ về cách AI cá nhân có thể tự ý lựa chọn vi phạm pháp luật để theo đuổi lợi nhuận. Sử dụng GPT-4 để phân tích giao dịch chứng khoán, họ nói với công cụ AI của mình rằng giao dịch nội gián là không thể chấp nhận được. Sau đó, khi họ đưa cho công cụ AI này một gợi ý giao dịch cổ phiếu bất hợp pháp, AI đã tiến hành giao dịch dựa vào thông tin đó và nói dối những người giám sát con người. Ở đây, AI chỉ đơn giản là tham gia vào cùng một loại hành vi bất hợp pháp mà nhiều người đã làm trước đây.

Hiệu suất vượt trội của AI có thể gây mất ổn định cho hệ thống ngay cả khi nó chỉ thực hiện những gì nó được kỳ vọng phải là. Điều này đặc biệt là một vấn đề trong những thời điểm căng thẳng tột độ khi mục tiêu của các tổ chức tài chính là sống còn và do đó, AI làm việc để tăng cường hành vi gây bất ổn hiện có như chuyển đổi tài sản sang các lĩnh vực an toàn, bán tháo tài sản và sự rút lui của nhà đầu tư.

Nói chung, AI sẽ dễ dàng trốn tránh sự giám sát vì việc theo dõi một hệ thống tài chính có mức độ phức tạp gần như vô hạn là vô cùng khó khăn. Các cơ quan chức năng phải đối đầu với hai thế lực đối lập nhau. AI sẽ rất hữu ích trong việc giữ cho hệ thống ổn định nhưng đồng thời cũng rất nguy hại nếu nó trợ giúp các lực lượng gây bất ổn. Yếu tố thứ hai có khả năng sẽ chiếm ưu thế. Lý do là nếu AI cố gắng muốn trốn tránh sự kiểm soát, nó chỉ cần tìm ra một kẽ hở để thực hiện hành vi sai trái, trong khi người giám sát không chỉ cần tìm ra tất cả các lỗ hổng mà còn phải theo dõi cách AI tương tác với từng điểm yếu đó rồi thực hiện các biện pháp khắc phục một cách hiệu quả. Đây là một nhiệm vụ tính toán rất khó khăn, và nó càng trở nên tồi tệ hơn khi khu vực tư nhân có khả năng tiếp cận các nguồn lực tính toán tốt hơn so với các cơ quan quản lý. Việc AI càng được sử dụng nhiều thì vấn đề tính toán của cơ quan chức năng càng trở nên khó khăn hơn.

Rủi ro đồng nhất và độc quyền

Kênh cuối cùng này nảy sinh do mô hình kinh doanh của những công ty thiết kế và vận hành công cụ AI này có sự tăng trưởng lợi nhuận theo quy mô, tương tự như những gì chúng ta thấy trong điện toán đám mây.

Các doanh nghiệp phân tích AI phụ thuộc vào ba nguồn tài nguyên khan hiếm: các máy tính đòi hỏi bộ xử lý đồ hoạ (GPU) cần thiết, nguồn nhân lực và dữ liệu. Không chỉ tất cả những tài nguyên này bị khan hiếm mà chúng còn tích cực tăng cường lẫn nhau. Một doanh nghiệp mà kiểm soát thị phần lớn nhất của mỗi tài nguyên trên có khả năng chiếm vị trí thống trị trong lĩnh vực kinh doanh phân tích trí tuệ nhân tạo trong tài chính.

Tất cả những điều này thúc đẩy ngành công nghiệp AI hướng tới cấu trúc thị trường độc quyền bởi một số nhà cung cấp lớn thống trị. Kết quả cuối cùng là sự khuếch đại thuận chu kỳ được gia tăng và bùng nổ các cơn bão phá sản khi nhiều tổ chức tài chính dựa vào cùng một công cụ AI dẫn đến họ có chung niềm tin và hành động tương tự, làm gia tăng đồng thời các hoạt động giao dịch tương tự.

Nếu các cơ quan quản lý có thẩm quyền cũng phụ thuộc vào cùng một công cụ AI để phân tích, thì dường như khả năng cao là họ không thể xác định được các điểm yếu cho đến khi quá muộn vì họ sẽ được thông báo bởi cùng một công cụ có chung quan điểm về quá trình xử lý ngẫu nhiên của hệ thống tài chính như các doanh nghiệp tư nhân đã không cố ý gây ra sự dễ đỗ vỡ.

Nói cách khác, bản chất độc quyền trong hoạt động kinh doanh phân tích trí tuệ nhân tạo làm tăng rủi ro tài chính hệ thống. Điều đáng lo ngại là cả cơ quan quản lý cạnh tranh và cơ quan giám sát tài chính dường như đều không đánh giá đầy đủ khả năng gia tăng rủi ro hệ thống do công nghệ AI độc quyền trong làn sóng sáp nhập nhà cung cấp dữ liệu gần đây.

Kết luận

Cả khu vực công và tư nhân đang nhanh chóng mở rộng việc sử dụng AI do tính hiệu quả hấp dẫn và lợi thế về chi phí mà nó mang lại. Tuy nhiên, việc sử dụng AI ngày càng tăng này cũng làm trầm trọng thêm các kênh bất ổn tài chính hiện có.

Bằng cách tương tác giữa các mối đe dọa xã hội được nhận diện bởi các nhà nghiên cứu AI với những điểm yếu được ghi nhận trong các tài liệu nghiên cứu kinh tế, bốn kênh gây bất ổn có thể được xác định gồm: việc sử dụng AI có mục đích xấu, cung cấp thông tin sai lệch, mất định hướng và trốn tránh kiểm soát, được khuếch đại bởi các rủi ro độc quyền đồng nhất và độc quyền.

Mặc dù những lo ngại về nguy cơ AI gây bất ổn cho hệ thống tài chính khiến chúng ta phải cẩn trọng khi áp dụng AI, nhưng đó có thể chỉ là những khả năng. Các công nghệ mới thường vấp phải sự hoài nghi, nhưng khi nó được nhìn nhận là thực hiện tốt hơn những gì trước đây, nó sẽ ngày càng được tin tưởng. AI có được sự tin tưởng bằng cách thực hiện thành công những nhiệm vụ phù hợp nhất với nó, những nhiệm vụ có dữ liệu phong phú và các quy tắc không thể thay đổi. Việc tiết kiệm chi phí dẫn đến AI được sử dụng cho các công việc ngày càng quan trọng và ít phù hợp, dựa trên dữ liệu lịch sử hạn chế hoặc thậm chí không liên quan. Mặc dù không quá nhấn mạnh vào các rủi ro, nhưng AI được kỳ vọng sẽ đem lại nhiều lợi ích tích cực cho hệ thống tài chính. Tuy nhiên, các nhà chức trách phải nhận thức được những mối đe dọa này và điều chỉnh các quy định để đối phó với chúng. Rủi ro cuối cùng là AI vừa trở thành không thể thay thế vừa trở thành nguồn rủi ro hệ thống trước khi các cơ quan chức năng đưa ra phản ứng thích hợp.

MN (theo CEPR)