Người sáng lập Shield AI chia sẻ về cái chết, máy bay không người lái tại Ukraine và vũ khí AI “không ai muốn”
Cách đây khoảng hai tháng, người sáng lập công ty Shield AI, Brandon Tseng và một số nhân viên của ông đang đi trên một chiếc Uber lướt qua Kyiv, Ukraine. Họ đang đến tham gia một cuộc họp với các quan chức quân đội để bán họ các hệ thống máy bay không người lái và máy bay không người lái AI, khi đột ngột nhân viên của ông đã cho ông thấy một cảnh báo trên điện thoại của mình. Bom Nga đang tấn công. Tseng đối diện với nguy cơ tử thần với một sự cảm xúc thoải mái. “Nếu đến lúc phải đi, thì nó sẽ đến,” ông nói. “Nếu có gì, Tseng, một cựu Biệt Động Sỹ Hải Quân, đã muốn có thêm hành động. Nhân viên của Shield AI trước đây đã đến những khu vực nguy hiểm hơn ở Ukraine, đào tạo binh sỹ trên phần mềm và máy bay không người lái của công ty. Tseng thể hiện tính cách lạnh lùng một cách trầm lặng phổ biến trong hầu hết các nhà sáng lập công nghệ quốc phòng.
Trong năm 2015, Tseng đã thành lập Shield AI cùng với anh trai mình, Ryan Tseng, một kỹ sư điện được trao bằng sáng chế, với một nhiệm vụ rõ ràng: “Chúng tôi đã xây dựng máy bay không người lái AI tốt nhất thế giới,” ông nói. “Tôi muốn đưa một triệu máy bay không người lái AI vào tay khách hàng.” Để đạt được mục tiêu đó, ông và anh trai của mình đã huy động hơn 1 tỷ USD từ các nhà đầu tư như Riot Ventures và Quỹ Công nghệ Sáng tạo của Hoa Kỳ. Công ty phát triển phần mềm AI để làm cho các phương tiện không người lái, mặc dù Tseng nói rằng họ muốn phần mềm của Shield AI có mặt trong các hệ thống dưới nước và mặt phẳng cũng. Nó cũng có các sản phẩm vật lý, như máy bay không người lái V-BAT.
Shield AI cũng là một trong số ít các công ty khởi nghiệp công nghệ quốc phòng đã thực sự đạt được hợp đồng trị giá lớn từ chính phủ, như hợp đồng trị giá 198 triệu USD từ Cục Vệ binh bờ biển trong năm nay. Như kiểu đang cố định vị trí cho một tương lai còn lớn hơn, những người sáng lập đã chọn văn phòng mới bao quanh ba tầng của Raytheon, một trong những nhà thầu quốc phòng lớn.
Ukraine: Phòng thí nghiệm cho các công ty khởi nghiệp công nghệ quốc phòng của Mỹ
Ngày 16 tháng 9 là dấu hiệu của thời kỳ thay đổi: Thay vì yêu cầu các nhà sáng lập công nghệ quốc phòng phải đi đến Thủ đô, mặc áo sơ mi, và lăn xả trước các chính trị gia, Washington, D.C., đã đến với họ. Thành viên của Ủy ban Dịch vụ Quân sự Hạ viện Mỹ đã tụ họp với Giám đốc Công nghệ Palantir Shyam Sankar, Brandon Tseng, và các nhà quản lý từ Skydio, Applied Intuition và Saildrone tại khuôn viên Silicon Valley của Trường Đại học California, Santa Cruz. Họ thảo luận về cải cách mua sắm của Bộ Quốc phòng Mỹ (DoD) và, không tránh khỏi, về vai trò của công nghệ Mỹ tại Ukraine.
Đó là lần đầu tiên Ủy ban đã tổ chức một phiên điều trần công cộng bên ngoài Washington, D.C., từ năm 2006. “Ukraine đã là một phòng thí nghiệm tuyệt vời,” Tseng nói với các nhà lập pháp. “Những gì tôi nghĩ rằng người Ukraine đã phát hiện ra là họ sẽ không sử dụng bất cứ thứ gì không hoạt động trên chiến trường, thời kỳ. Những nhà sáng lập công nghệ quốc phòng, như người sáng lập Anduril Palmer Luckey và người sáng lập Skydio Adam Bry, đều đã tràn đến quốc gia đang chống đỡ để bán công nghệ mới tương đối cho một chiến trường đang suy thoái nhanh chóng. Thật không may, không phải tất cả công nghệ Mỹ đều hoạt động. Theo báo cáo của Wall Street Journal, máy bay không người lái từ các công ty khởi nghiệp Mỹ gần như thất bại không hoạt động qua chiến tranh điện tử ở Ukraine, điều này có nghĩa là máy bay không người lái ngừng hoạt động dưới công nghệ chặn tín hiệu GPS của Nga. “Ukraine đang ở trong chiến tranh và người dân đang bị giết. Nhưng … bạn muốn học bài từ những bài học đã học được,” Tseng nói với tôi một tuần sau, phản ánh về cuộc điều trần. “Bạn không muốn phải học lại bất kỳ bài học nào đó. Hoa Kỳ không nên muốn phải học lại bất kỳ bài học nào đó.” Đương nhiên, ông tin rằng máy bay không người lái của Shield AI đã hoạt động tốt hơn ở Ukraine so với những công ty khác bởi vì, ông nói, chúng có thể hoạt động mà không cần phải dựa vào GPS. “Chúng tôi đang cố gắng đưa thêm máy bay không người lái qua đó dựa trên các thành công mà chúng tôi đã có,” ông nói, mặc dù ông từ chối tiết lộ thông tin chi tiết về số lượng máy bay không người lái mà Shield AI đã gửi đi.
Các kẻ giết người có trí tuệ nhân tạo giống như Terminator? Hay là “Trò Chơi Của Ender”?
Văn phòng của Tseng chỉ có một bảng treo trên tường, treo khúc chiếc Hiến Pháp, vẽ méo mó. Ông xếp nó là một trong những nguồn cảm hứng lớn nhất của mình. “Không phải vì chúng ta hoàn hảo, mà vì chúng ta khao khát những giá trị ấy mà tôi xin tuyên bố là giá trị hoàn hảo,” ông nói. “Đó là điều quan trọng nhất. Chúng ta luôn đang tiến lên hướng đó.” Ông sửa lại bức khung trước khi vạch sơ qua một lịch sử chiến tranh rút gọn. Hoạt động ngăn chặn, ông nói, thường xảy ra khi một công nghệ mới mạnh mẽ xuất hiện, như bom nguyên tử, hoặc công nghệ tiêm thủy và GPS. AI, ông nói, sẽ đưa vào thời kỳ ngăn chặn mới — miễn là DoD bỏ ngân sách cho nó đúng cách. “Các công ty tư nhân đang đầu tư nhiều hơn vào AI và tự động hóa hơn bất kỳ tổng số nào trong ngân sách quốc phòng,” ông nói. Giá trị tiềm năng của các hợp đồng liên quan đến AI của Liên bang đã tăng lên 4,6 tỷ USD vào năm 2023 từ 335 triệu USD vào năm 2022, theo một báo cáo của Viện Brookings. Nhưng đó vẫn chỉ là một phần nhỏ của hơn 70 tỷ USD mà các nhà quỹ mạo tiền vào công nghệ quốc phòng khoảng cùng thời kỳ, theo PitchBook. Tuy nhiên, câu hỏi lớn nhất về việc sử dụng AI quân sự không phải là ngân sách — đó là đạo đức. Những người sáng lập và nhà lập pháp cùng đối mặt với việc có nên cho phép các vũ khí hoàn toàn tự động, tức đó AI sẽ tự quyết định khi nào tiến hành giết. Gần đây, một số nhà sáng lập dường như ủng hộ việc xây dựng các vũ khí như vậy. Một số ngày trước, ví dụ, Luckey của Anduril tuyên bố rằng “hiện có một cuộc chiến giữa các quốc gia của chúng ta đang được tiến hành trong Liên Hợp Quốc bây giờ bởi nhiều đối thủ của chúng ta” để lừa dối các nước phương tây không đấu tranh mạnh mẽ với AI. Ông ẩn ý rằng AI hoàn toàn tự động không tồi hơn cả mìn lạ đất. Tuy nhiên, ông không nhắc tới rằng Hoa Kỳ là một trong hơn 160 quốc gia đã đồng ý cấm sử dụng mìn lạ đất chống người trong hầu hết nơi. Tseng thẳng thắn phản đối việc sử dụng vũ khí hoàn toàn tự động. “Tôi đã phải đưa ra quyết định về sử dụng lực lượng chết người trên chiến trường,” ông nói. “Đó là quyết định của con người và sẽ luôn là quyết định của con người. Đó là quan điểm của Shield AI. Đó cũng là quan điểm của quân đội Hoa Kỳ.” Ông đúng khi nói rằng quân đội Hoa Kỳ hiện không mua các loại vũ khí hoàn toàn tự động, mặc dù không cấm các công ty phát triển chúng. Nếu Hoa Kỳ thay đổi quan điểm của mình thì sao? “Tôi nghĩ đó là một giả thiết điên rồ,” ông trả lời. “Quốc hội không muốn điều đó. Không ai muốn điều đó.”
Vậy nếu ông không dự đoán một đội quân những kẻ giết người giống như Terminator, ông hình dung mình ra sao? “Một người có thể chỉ huy và điều khiển một triệu máy bay không người lái,” Tseng nói. “Không có hạn chế công nghệ về việc người ta quản lý một cách hiệu quả như thế nào trên chiến trường.” Đó sẽ tương tự như “Trò chơi của Ender”, ông nói, tham chiếu đến tác phẩm kinh điển của khoa học viễn tưởng năm 1985 nơi một sĩ quan quân đội nhỏ tuổi có thể phát hành các đội quân vũ trụ với cú vẫy tay. “Trừ khi không phải là con người thực sự mà anh ta đang chỉ huy, nó sẽ là một đám robot,” Tseng nói. #sựkiện #ShieldAI
About two months ago, Shield AI co-founder Brandon Tseng and one of his employees were in an Uber weaving through Kyiv, Ukraine. They were headed to a meeting with military officials to sell them on their AI pilot systems and drones, when suddenly his employee showed him a warning on his phone. Russian bombs were incoming. Tseng met his potential demise with a shrug. “If it’s your time to go,” he said, “then it’s your time to go.”
If anything, Tseng, a former Navy SEAL, was itching for more action. Shield AI employees had previously been to much more dangerous areas in Ukraine, training troops on its software and drones. “I’m quite jealous of where they got to go,” Tseng said. “Just from an adventure standpoint.”
Tseng embodies that quiet macho-ness that pervades most defense tech founders. When I met him last month at the company’s Arlington office, he showed off a knife displayed in his office engraved with the SEAL slogan “Suffer in silence.” The white walls, whose tops glowed with fluorescent lights (to look like a spaceship, Tseng said), were covered with slogans like “Do what honor dictates” and “Earn your shield every day.” I pointed out they were pretty intense. “Are they?” Tseng replied.
In 2015, Tseng founded Shield AI alongside his brother, Ryan Tseng, a patent-awarded electrical engineer, with a clear mission: “We built the world’s best AI pilot,” he said. “I want to put a million AI pilots in customers’ hands.”
To that end, he and his brother have raised over $1 billion from investors like Riot Ventures and the U.S. Innovative Technology Fund. The company develops AI software to make air vehicles autonomous, although Tseng said they want Shield AI’s software in underwater and surface systems as well. It also has hardware products, like its drone V-BAT.
Shield AI is also part of a rare class of defense tech startups: one that’s actually landed decently sized government contracts, like its $198 million contract from the Coast Guard this year. As if trying to position themselves for an even bigger future, the founders chose a new office surrounded by three floors of Raytheon, one of the major defense contractors.
Ukraine: The lab for U.S. defense tech startups
September 16 was a sign of the changing times: Instead of making defense tech founders fly to the Capitol, put on their suits, and grovel to politicians, Washington, D.C., came to them.
Members of the U.S. House Armed Services Committee gathered with Palantir CTO Shyam Sankar, Brandon Tseng, and executives from Skydio, Applied Intuition, and Saildrone at UC Santa Cruz’s Silicon Valley campus. They discussed U.S. Department of Defense (DoD) acquisition reform and, inevitably, the role of U.S. technology in Ukraine. It was the first public hearing the committee has held outside of Washington, D.C., since 2006.
Ukraine has “been a great laboratory,” Tseng told the policymakers. “What I think the Ukrainians have discovered is that they’re not going to use anything that doesn’t work on the battlefield, period.”
Defense tech founders, like Anduril co-founder Palmer Luckey and Skydio co-founder Adam Bry, have all flocked to the embattled country to sell relatively new technology for a rapidly deteriorating battlefield. Unfortunately, not all U.S. tech is working. According to a Wall Street Journal report, drones from U.S. startups have almost universally failed to operate through electronic warfare in Ukraine, meaning the drones cease to work under Russia’s GPS blackout technology.
“Ukraine is at war and people are being killed. But … you want to take those lessons learned,” Tseng told me a week later, reflecting on the hearing. “You don’t want to have to relearn any of those lessons. The United States should not want to relearn any of those lessons.”
Naturally, he’s confident that Shield AI’s drones have fared better in Ukraine than others because, he says, they can operate without relying on GPS. “We are working to get more drones over there based on the successes that we’ve had,” he said, although he declined to name specifics of how many drones Shield AI has sent over.
Terminator-like AI killers? Or “Ender’s Game”?
Tseng’s corner office is bare besides a framed copy of the Constitution, hanging crooked on the wall. He listed it as one of his biggest inspirations. “It’s not because we’re perfect, but because we aspire to these values that I would claim are perfect values,” he said. “That’s what matters most. We’re always marching in that direction.”
He straightened out the frame before brushing through an abbreviated history of warfare. Deterrence, he said, tends to happen when a radical new technology emerges, like the atom bomb, or stealth technology and GPS. AI, he said, will usher in the new era of deterrence — assuming the DoD funds it properly. “Private companies are putting more money towards AI and autonomy than any aggregate amount in the defense budget,” he said.
The potential value of AI-related federal contracts ballooned to $4.6 billion in 2023 from $335 million in 2022, according to a report by the Brookings Institution. But that’s still a fraction of the over $70 billion that VCs invested in defense tech in roughly the same period, according to PitchBook.
Still, the biggest question of military AI use is not budget — it’s ethics. Founders and policymakers alike grapple with whether to allow completely autonomous weapons, meaning the AI itself decides when to kill. Lately, some founders’ rhetoric appears to be on the side of building such weapons.
A few days ago, for instance, Anduril’s Luckey claimed there was “a shadow campaign being waged in the United Nations right now by many of our adversaries” to trick Western countries into not aggressively pursuing AI. He implied that fully autonomous AI was no worse than land mines. He didn’t mention, however, that the U.S. is among over 160 nations that agreed to ban the use of anti-personnel land mines in the vast majority of places.
Tseng is firmly opposed to fully autonomous weapons. “I’ve had to make the moral decision about utilizing lethal force on the battlefield,” he said. “That is a human decision and it will always be a human decision. That is Shield AI’s standpoint. That is also the U.S. military’s standpoint.”
He’s right that the U.S. military does not currently purchase fully autonomous weapons, although it does not ban companies from developing them. What if the U.S. changed its standpoint? “I think it’s a crazy hypothetical,” he answered. “Congress doesn’t want that. No one wants that.”
So if he doesn’t foresee an army of Terminator-like killers, what does he envision? “A single person could command and control a million drones,” Tseng said. “There’s not a technological limitation on how much a single person could command effectively on the battlefield.”
It’s going to be akin to “Ender’s Game,” he said, referencing the 1985 sci-fi classic where a child military officer can release legions of space armies with the wave of a hand.
“Except instead of actual humans that he was commanding, it’ll be f—ing robots,” Tseng said.
[ad_2]
