Amazon Web Services (AWS) đang đầu tư khoảng 105 tỷ USD vào phát triển kinh doanh, tập trung vào AWS và các nỗ lực AI.
AWS đang hỗ trợ JPMorgan Chase trong việc mở rộng quy mô và bảo mật ứng dụng AI. Ngân hàng này hiện có hàng nghìn ứng dụng chạy trên AWS, tận dụng công nghệ AI tạo sinh.
Đối với Bridgewater, AWS tập trung vào việc phối hợp các mô hình chuyên biệt cho nghiên cứu đầu tư. Quỹ đầu cơ này đã thành lập AIA Labs để tái tạo mọi hoạt động bằng kỹ thuật máy học.
MUFG sử dụng nền tảng AI của AWS để phân tích nhiều bộ dữ liệu và đề xuất ý tưởng bán hàng mới. Tỷ lệ chuyển đổi đã tăng lên 30%.
AWS giúp Rocket Mortgage tích hợp AI tạo sinh vào trung tâm cuộc gọi, tiết kiệm 40.000 giờ làm việc hàng năm và cho phép 70% hỗ trợ khách hàng được tự phục vụ hoàn toàn.
AWS Bedrock Guardrails sử dụng một mô hình ngôn ngữ lớn khác để kiểm tra câu trả lời, phát hiện khoảng 75% các trường hợp ảo giác.
Các nỗ lực khác của AWS như lập luận tự động cố gắng sử dụng chứng minh toán học để xác minh tính chính xác của thông tin từ mô hình AI tạo sinh.
JPMorgan sử dụng AWS SageMaker, với hơn 5.000 nhân viên sử dụng công cụ này mỗi tháng để tạo và huấn luyện mô hình máy học.
Bridgewater đang hướng tới quy trình làm việc hoàn toàn tự động, nhưng hiện tại AI chỉ giúp tăng tốc quá trình làm việc của các nhà phân tích đầu tư.
MUFG đã phát triển các ứng dụng AI tạo sinh từ năm 2023 sau khi thành lập nhóm AI/ML nội bộ hai năm trước đó.
📌 AWS đang dẫn đầu cuộc đua cung cấp dịch vụ đám mây và AI cho ngành tài chính với khoản đầu tư 105 tỷ USD. Các khách hàng lớn như JPMorgan, Bridgewater và MUFG đang áp dụng công nghệ của AWS để cải thiện bảo mật, nghiên cứu đầu tư và dịch vụ khách hàng, với kết quả đáng kể như tỷ lệ chuyển đổi tăng 30% và tiết kiệm 40.000 giờ làm việc hàng năm.
https://www.businessinsider.com/aws-wall-street-jpmorgan-bridgewater-mufg-rocket-mortgage-2025-2
Bianca Chan
2/3/2025, 12:00 PM UTC
John Kain, trưởng bộ phận phát triển thị trường dịch vụ tài chính tại AWS
Amazon Web Services cung cấp công nghệ dữ liệu và điện toán cho các công ty khác.
Dịch vụ này đã trở thành một phần quan trọng trong công nghệ của Phố Wall, với nhiều công ty dựa vào AWS.
Dưới đây là cách AWS hỗ trợ các công ty tài chính và fintech trong nỗ lực phát triển AI tạo sinh.
AI tạo sinh đã làm nóng cuộc chiến giành thị phần điện toán đám mây công khai trong ngành tài chính.
Amazon Web Services, Microsoft Azure và Google Cloud – các bộ phận điện toán đám mây của 3 gã khổng lồ công nghệ – đang cạnh tranh quyết liệt để trở thành nhà cung cấp dịch vụ đám mây hàng đầu cho ngành tài chính. Các chiến lược để giành khách hàng không chỉ dừng lại ở việc cung cấp công nghệ – nhiều công ty hiện đang tập trung hỗ trợ khách hàng triển khai AI.
Để duy trì lợi thế, Amazon cho biết họ dự kiến đầu tư khoảng 105 tỷ USD vào hoạt động kinh doanh của mình, phần lớn trong số đó dành cho AWS và các sáng kiến AI. Để tìm hiểu về cách số tiền này có thể tác động đến Phố Wall, Business Insider đã trao đổi với John Kain, trưởng bộ phận phát triển thị trường dịch vụ tài chính tại AWS.
Kain, người từng làm việc tại JPMorgan Chase và Nasdaq trước khi chuyển sang ngành công nghệ, đã phác thảo hướng đi của AWS trong mảng tài chính thông qua 4 khách hàng khác nhau: 2 ngân hàng quốc tế lớn, một quỹ đầu cơ và một công ty fintech.
“Nhiệm vụ ngày càng phức tạp hơn, mọi thứ đang trở nên có tính tác nhân (agentic) nhiều hơn, được điều chỉnh phù hợp với từng trường hợp sử dụng để mang lại lợi ích thực tế về giá cả và hiệu suất,” Kain nhận xét về sự trưởng thành của ngành AI.
Phần lớn công việc đằng sau hậu trường tập trung vào việc giảm số lượng lỗi "ảo giác" – một vấn đề phổ biến khi AI tạo ra những phản hồi không chính xác nhưng lại được trình bày như sự thật.
Một ví dụ là AWS Bedrock, dịch vụ giúp khách hàng xây dựng ứng dụng và mô hình AI tạo sinh. Năm ngoái, AWS đã giới thiệu tính năng Bedrock Guardrails, sử dụng một mô hình AI khác để kiểm tra chất lượng câu trả lời của mô hình ngôn ngữ lớn. Trong một số trường hợp, cách tiếp cận này đã phát hiện khoảng 75% lỗi ảo giác, theo Kain.
Các sáng kiến khác của AWS, như lý luận tự động (automated reasoning), đang cố gắng sử dụng chứng minh toán học để xác nhận thông tin từ các mô hình AI tạo sinh là chính xác.
Dưới đây là cách AWS hỗ trợ các công ty tài chính Phố Wall ứng dụng AI tạo sinh.
Trọng tâm AWS: Bảo mật và quy mô
Khi Lori Beer, giám đốc thông tin toàn cầu của JPMorgan, phát biểu tại hội nghị AWS re:Invent vào tháng 12, bà đã trình bày về hành trình tiếp cận điện toán đám mây của ngân hàng này, bắt đầu từ năm 2017. Đến năm 2020, JPMorgan có 100 ứng dụng trên đám mây, và con số này đã tăng gấp đôi vào năm sau đó. Ngân hàng cũng xây dựng toàn bộ chi nhánh ngân hàng tiêu dùng tại Anh trên AWS.
Hiện tại, JPMorgan có hàng nghìn ứng dụng chạy trên AWS, tận dụng hoàn toàn công nghệ AI tạo sinh, Kain cho biết.
Nền tảng dữ liệu và AI nội bộ của JPMorgan dựa trên AWS SageMaker – công cụ tạo và huấn luyện mô hình máy học, với hơn 5.000 nhân viên sử dụng công cụ đám mây này mỗi tháng, Beer cho biết. Ngân hàng đã đơn giản hóa quy trình phát triển mô hình, từ thử nghiệm đến triển khai thực tế.
"Nền tảng này đang giúp chúng tôi xây dựng làn sóng ứng dụng AI tiếp theo tại công ty," bà nói.
Bảo mật, quản trị và tuân thủ là những yếu tố then chốt thúc đẩy JPMorgan sử dụng AWS, theo Kain.
JPMorgan, xử lý 10 nghìn tỷ USD giao dịch thanh toán mỗi ngày và có 82 triệu khách hàng tại Mỹ, được Hội đồng Ổn định Tài chính xếp hạng là ngân hàng quan trọng nhất thế giới về mặt hệ thống.
Trọng tâm AWS: Điều phối các mô hình chuyên biệt để nghiên cứu đầu tư
Khoảng 2 năm trước, Bridgewater tập hợp một nhóm nhà đầu tư, nhà khoa học dữ liệu và kỹ sư công nghệ để suy nghĩ lại cách quỹ đầu cơ này hiểu về thị trường và nền kinh tế bằng AI và máy học. Từ đó, AIA Labs ra đời.
“Ban đầu là ghi chú trên giấy, sau đó chuyển sang Excel, và giờ đang chạy trên EKS và nhiều dịch vụ AWS khác,” Aaron Linsky, giám đốc công nghệ của AIA Labs, nói tại hội nghị re:Invent vào tháng 12.
Trước đây, AI chủ yếu chỉ có thể xử lý các câu hỏi đơn giản, viết mã để trích xuất dữ liệu từ hệ thống của Bridgewater và tạo ra phản hồi.
“Điều đó rất hữu ích, tiết kiệm hàng giờ đồng hồ,” Kain nói, giúp các nhà phân tích đầu tư không cần làm phiền các lập trình viên để lấy dữ liệu.
Hiện tại, nền tảng AI của Bridgewater có thể phân tích một chiến lược đầu tư phức tạp bằng cách chia nhỏ nó thành nhiều bước và để từng tác nhân xử lý một phần cụ thể.
Trọng tâm AWS: Biến nhiều tập dữ liệu thành ý tưởng bán hàng mới
Mitsubishi UFJ Financial Group (MUFG) sử dụng AI tạo sinh để hỗ trợ đội ngũ bán hàng. Một nền tảng AI gợi ý ý tưởng bán hàng đã giúp tăng tỷ lệ chuyển đổi lên 30%, Tetsuo Horigane, trưởng nhóm đổi mới định lượng tại MUFG, cho biết.
Trước đây, nhân viên bán hàng phải đọc hàng trăm hoặc hàng nghìn trang tài liệu để hiểu tình hình khách hàng và tìm ra sản phẩm tài chính phù hợp. Giờ đây, AI kết hợp nhiều tập dữ liệu khác nhau để tự động đề xuất sản phẩm tài chính phù hợp trong vài phút thay vì vài giờ hoặc vài ngày.
Trọng tâm AWS: Ứng dụng AI vào tổng đài để nâng cao chiến lược và trải nghiệm khách hàng
AI trong tổng đài không phải là điều mới mẻ, nhưng đối với Rocket Mortgage, công nghệ này đang giúp công ty suy nghĩ lại về chiến lược và trải nghiệm khách hàng.
Công ty fintech này đã tích hợp AI tạo sinh của AWS vào trung tâm chăm sóc khách hàng để giảm tải cho hàng nghìn nhân viên hỗ trợ qua điện thoại, email và trò chuyện trực tuyến.
Tuy nhiên, thay vì chỉ có một trợ lý AI, Rocket Mortgage triển khai “một mạng lưới các tác nhân AI” để hỗ trợ ghi âm cuộc gọi, trích xuất thông tin quan trọng trong cuộc hội thoại và cung cấp dữ liệu phân tích sau cuộc gọi.
AI tạo sinh đã giúp tiết kiệm khoảng 40.000 giờ làm việc mỗi năm cho nhân viên tổng đài và 70% dịch vụ khách hàng được tự động hóa hoàn toàn.
Nhưng giá trị thực sự, theo Kain, là khả năng phân tích 10 petabyte dữ liệu để giúp Rocket Mortgage trả lời những câu hỏi lớn như: "Khách hàng gọi đến vì lý do gì?" và "Những vấn đề phổ biến nhất là gì?" để tối ưu hóa quy trình và cải thiện trải nghiệm khách hàng.
Here's how AWS is helping financial giants like JPMorgan and Bridgewater with their AI ambitions
Bianca Chan Mar 2, 2025, 12:00 PM UTC
A man smiles in his head shot wearing a white collared shirt and grey suit jacket
John Kain, head of financial services market development at AWS AWS
Amazon Web Services provides data and computing technology to other companies.
It has become a key part of Wall Street technology, with many firms relying on it.
Here's how it's helping finance firms and fintechs with generative AI efforts.
Generative AI has upped the ante in the public cloud war for Wall Street's wallet share.
Amazon Web Services, Microsoft Azure, and Google Cloud, the cloud-computing arms of the respective Big Tech companies, have been duking it out to be the financial industry's go-to cloud provider. Strategies to win that business extended beyond just providing technology — many are now focusing on helping clients roll out AI.
To keep its edge, Amazon said it plans to deploy around $105 billion in its business, much of which will go toward AWS and its AI efforts. For a look at how that money may touch Wall Street, Business Insider spoke with John Kain, the head of financial services market development at AWS. Kain, who worked at JPMorgan Chase and Nasdaq before switching industries, outlined the future direction of AWS' Wall Street business through four different clients: two large international banks, a hedge fund, and a fintech.
"The tasks are getting more complex, things are becoming much more agentic in nature, much more tailored for individual use cases to get real price performance benefits," Kain said, referring to the industry's AI maturity.
Much of the work behind the scenes has been around cutting down on the number of hallucinations, a common issue where inaccurate responses are presented as fact.
One example is with AWS Bedrock, a service that helps customers build generative AI applications and models. Last year, AWS introduced a feature called Bedrock Guardrails that looks at the responses coming out of large language models, and then uses another large language model to check whether that answer actually was a good response. In some cases, this approach detected about 75% of hallucinations, Kain said.
Other AWS efforts, like automated reasoning, have tried to use mathematical proofs to prove that the information from generative AI models is factually correct.
Here's how AWS is helping Wall Street firms use generative AI.
JPMorgan Chase
AWS focus area: Security and scale
When Lori Beer, JPMorgan's global chief information officer, took the stage at AWS re:Invent in December, she charted the bank's embrace of the cloud, which started in 2017. In 2020, JPM had 100 apps in the cloud, and it doubled that number the following year. It also built its UK consumer bank from the ground up on AWS.
JPMorgan now has thousands of applications running on AWS that fully take advantage of generative AI technologies, Kain said.
Lori Beer JPMorgan
Lori Beer, CIO at JPMorgan Chase. JPMorgan
JPMorgan's internal data and AI platform relies on AWS SageMaker, a tool for creating and training machine-learning models, with more than 5,000 employees using the cloud-based tool every month, Beer said. The bank has simplified the process of developing new models, from experimentation to deploying them live, she added.
"This platform is empowering us to build the next wave of AI applications at the firm," she said.
Security, governance, and compliance measures in the cloud were key to JPMorgan's uptake, according to Kain.
JPMorgan, which processes $10 trillion in payments daily and counts 82 million customers in the US, is considered the world's most systemically important bank, according to the Financial Stability Board, which identifies global systemically important financial institutions.
"Organizations like JPMorgan, they have a unique scale and complexity that comes with being a globally regulated organization in multiple lines of business and we get to learn alongside of them," Kain said, adding that the bank's business compliance and security perspective helped drive AWS' roadmap forward.
Bridgewater
AWS focus area: coordinating specialized models for investment research
About two years ago, Bridgewater pulled together a group of investors, data scientists, and technologists to rethink how the hedge fund understood markets and economies with AI and machine learning first. Thus, AIA Labs was born. Short for artificial investment associate, the division within the investment firm sought to recreate "everything that we do via machine-learning techniques," Bridgewater's co-chief investment officer Greg Jensen previously told BI.
headshot of Bridgewater Associates co-CIO Greg Jensen
Bridgewater Associates co-CIO Greg Jensen. Bridgewater Associates
"It started on a notepad, graduated to Excel, and is now running on EKS and various other AWS services," AIA Labs CTO Aaron Linsky said at re:Invent in December.
Related stories
Money manager VanEck is backing an under-the-radar AI fintech to boost its ETF business
Nvidia CEO says AI models like DeepSeek's R1 need 100 times more compute
Early on, the capabilities on the generative AI side were mostly limited to asking a straightforward question, getting the AI to figure out how to write code to exract that data from Bridgewater's system, and produce a response, Kain said.
"That was great, it was saving hours and hours of time," he said, and made it so investment analysts didn't have to bug developers to get the data.
Now, Bridgewater's AI platform can take a complex investing strategy and analyze it.
"They showed how they were able to take that complex investment question, break it into multiple steps, and have each of those steps go out to a particular agent," Kain said. For example, one agent may check how interest rates affect overall returns, another could double-check the financials, and a third may summarize the risk profile.
"We found today that limiting the breadth of responsibilities for any given agent is really important," Linsky said.
"We're on the path towards full agentic workflows," Linsky said, adding, "we're definitely not replacing our investment associates with the capabilities right now, but it is helping to speed along their process."
MUFG
AWS focus area: turning multiple data sets into new sales ideas
Mitsubishi UFJ Financial Group, which offers everything from investment banking to treasury management and trade finance, is using generative AI to give its corporate salespeople a leg up. An AI platform that suggests sales ideas has led to a 30% conversion rate, Tetsuo Horigane, head of quant innovation at MUFG, said at re:Invent.
MUFG
Mitsubishi UFJ Financial Group (MUFG) is a large Japanese bank. Kazuhiro Nogi/AFP/Getty Images
MUFG began developing generative AI applications in 2023 after launching an in-house AI/ML team two years prior, Horigane said. MUFG also has about 2,000 employees serving roughly 1 million corporate clients,
The bank's salespeople typically read through hundreds or thousands of pages of documents to understand a given client's situation and what financial product is most relevant to them. But now the AI platform combines multiple data sets, like the client's transaction history, previous sales conversions to understand what they're in the market for, their financial filings, and public information like news, Kain said.
This process of drafting a sales pitch, which could take several hours or days, could now be done in a matter of minutes, Horigane said.
AWS focus area: using call center AI to influence strategy and experience
AI in call centers is nothing novel, but for Rocket Mortgage, it's leading executives to think about whole new strategies and experiences.
The fintech integrated AWS's generative AI technology into its call centers to lessen the load for its thousands of call center employees who field calls, emails, and webchats every day.
But the idea is not just to have one AI assistant, but "an entire network of agents," Dan Vasquez, VP of AI strategy at Rocket Mortgage, said at re:Invent. They help with transcribing, picking out key pieces of information mid-call, and providing insights and data about the call after the fact, he said.
Generative AI has helped save some 40,000 hours annually for call center employees and enabled 70% of client support to be fully self-served, Vasquez said.
But now, Rocket Mortgage is using those 10 petabytes of data to figure out "what should we do next?"
That's the real benefit, Kain said, for the fintech to start asking big questions like "why are my customers calling me" and "what are my most common problems," and use that intel to rethink its online platforms, streamline workflows, and improve the overall customer experience.