TẠI SAO STARTUP VỀ HẠ TẦNG AI LẠI KHÓ ĐẾN MỨC ĐIÊN RỒ

Vì sao bán cuốc và xẻng khi trong cơn sốt Gen AI chưa chắc đã ngon ăn? 👇👇

Gần đây, Adept AI đã công bố việc họ bị Amazon mua lại, và điều này cho thấy các startup hạ tầng (AI infra) AI là một ý tưởng “xanh vỏ đỏ lòng” (tarpit idea), nhất là khi họ đặt mục tiêu trở thành doanh nghiệp đủ hấp dẫn với các nhà đầu tư mạo hiểm” (“venture-scale” business.).

Thuật ngữ “xanh vỏ đỏ lòng” chỉ các ý tưởng khởi nghiệp nghe có vẻ hợp lý, nhưng khi cọ xát với thực tế hoặc suy nghĩ kỹ càng, thì không thể đứng vững.

Tôi tin rằng hầu hết các startup hạ tầng AI cũng sẽ rơi vào nhóm này (hạ tầng AI là các công nghệ nằm giữa các công ty điện toán đám mây và các lớp ứng dụng ví dụ dịch vụ RAG, cơ sở hạ tầng finetuning, dịch vụ xử lý văn bản, API TTS (text-to-speech), cơ sở dữ liệu vector, v.v. Tôi sẽ không nêu tên cụ thể, nhưng đó là các startup hạ tầng AI đã huy động được vốn đáng kể từ các vòng gọi vốn đầu tiên (seed rounds) nhờ mã nguồn mở hoặc được biết đến trên mạng xã hội.

Tôi cũng tin rằng nhiều người sáng lập đồng ý với quan điểm này, điều này giải thích cho việc bán Adept (cho Amazon), Rockset (cho OpenAI), InflectionAI (cho Microsoft), cũng như số phận sắp bị mua lại của Stability (nếu nó xảy ra), CharacterAI, v.v. Các công ty lớn đều đang tìm kiếm M&A để bổ sung cho câu chuyện “nền tảng AI trọn gói” của họ. Chỉ một số ít start-ups may mắn sẽ được mua lại.

Vậy tại sao việc một startup về hạ tầng AI lại là một ý tưởng “xanh vỏ đỏ lòng”? Trên lý thuyết, hoàn toàn hợp lý khi bán cuốc và xẻng khi các startup AI và các doanh nghiệp đổ xô đi xây dựng các tính năng Gen AI. Có hơn 30.000 miền “ai” được đăng ký mỗi tháng cơ mà.

Nói một cách ngắn gọn, các startup hạ tầng AI mới lập sẽ khó thành công vì họ thiếu sự khác biệt đáng kể và thiếu vốn để thâm nhập phân khúc doanh nghiệp. Không phải lỗi của các startup, vấn đề thực sự là mức độ cạnh tranh quá lớn. Đơn giản là có quá nhiều bên liên tiếp cung cấp các tính năng cơ bản giống nhau trong vòng 1-3 tháng, điều này tạo ra tình trạng “xanh vỏ đỏ lòng” cho các start-up. Đa số sẽ đuối sức. Còn các công ty lớn thì không hề bị ảnh hưởng.

Lập luận như sau:

• Để các startup hạ tầng AI đạt “quy mô đầu tư mạo hiểm”, họ sẽ cần phải giành được khách hàng doanh nghiệp. Đây là điều hiển nhiên. Điều đó đòi hỏi các startup phải có một số lợi thế bền vững để tạo khác biệt sản phẩm của họ với những công ty lớn (Google Cloud Platform, AWS, cũng như các công ty như Vercel, Databricks, Datadog, v.v.).
• Thật không may, hầu hết các phát minh có giá trị đều đến từ những công ty lớn hoặc cộng đồng nghiên cứu/OSS – và các công ty lớn có vị thế tốt hơn để thương mại hóa sáng chế vì họ có nhiều dữ liệu sử dụng cũng như các mối quan hệ kinh doanh hơn so với các startup.
• Tệ hơn nữa là bất kỳ ý tưởng hay nào mà các startup nghĩ ra đều được sao chép một cách nhanh chóng. Ví dụ, tôi khá ngạc nhiên về cách Databricks và Datadog nhanh chóng bắt kịp các sản phẩm LLMOps hàng đầu từ thế giới khởi nghiệp (ví dụ: Arize AI).
• Hơn nữa, cộng đồng OSS cũng tạo ra các phiên bản OSS của sản phẩm của các startup hạ tầng AI khác – có lẽ đây là bằng chứng cho thấy việc viết phần mềm đã trở nên dễ dàng như thế nào.
• Do đó, các startup gặp khó khăn trong việc duy trì lợi thế bền vững so với các công ty lớn giữ để có thêm thời gian tìm kiếm hợp đồng từ các KH doanh nghiệp.
• Và khách hàng doanh nghiệp có xu hướng ” trì hoãn” việc thuê mua từ các nhà cung cấp mới, bởi vì sản phẩm của các nhà cung cấp giảm giá trị rất nhanh trong bối cảnh AI thay đổi trong vài tháng.
• Điều này cuối cùng kéo dài chu kỳ bán hàng và làm tăng tỷ lệ khách hàng bỏ đi, điều này gây tổn hại cho các startup nhiều hơn là các công ty lớn.

Cũng có một số nguyên nhân khác đang diễn ra (sẽ được thảo luận trong phần tiếp theo) – nhưng về cơ bản, không gian hạ tầng AI trở thành một cuộc chiến mòn mỏi, mà phần thắng thuộc về những người chơi có tiềm lực.

Mục đích của tôi ở đây không phải là bài đăng bi quan, mà là để làm nổi bật một số thách thức thực sự. Ngoài ra, tôi sẽ đưa ra một số lời khuyên cho các startup hạ tầng AI.

Phải nói rõ là “startup hạ tầng AI” trong bài này được định nghĩa là các startup hạ tầng AI “quy mô đầu tư mạo hiểm”. Các công ty tự gọi mình là công ty hạ tầng AI nhưng có quy mô nhỏ thì không được tính.

Các yếu tố khác tạo ra tình trạng ‘xanh vỏ đỏ lòng”

Có ba yếu tố chính khác đang làm môi trường cạnh tranh trở nên khốc liệt:

1. Các nhà xây dựng hệ thống hiện đang “đòi hỏi” khả năng bóc tách (composability), tức là chuyển từ sản phẩm này sang sản phẩm khác trở nên dễ dàng. Điều này rất tốt cho các công ty ở tầng ứng dụng, nhưng không tốt cho các công ty cơ sở hạ tầng. Các nhà phát triển có thể thay Langchain bằng Llamaindex, các mô hình OpenAI bằng Claude 3.5 thông qua AWS Bedrock, v.v. Mỗi lớp của nhóm dịch vụ đào tạo và suy luận LLM đều có ít nhất 10+ giải pháp khả thi, điều đó khiến việc tạo ra bất kỳ khả năng giữ chân (lock-in) KH nào cũng trở nên khó khăn.
2. Sự sụt giảm liên tục của chi phí suy luận cũng đóng một vai trò. COGS (chí phí mua) đang giảm nhanh chóng, vì vậy các nhà cung cấp hạ tầng AI cần phải liên tục điều chỉnh giá cho phù hợp với các công ty lớn có lợi thế về quy mô. Khách hàng cảm nhận các mô hình hoặc phần mềm có rất ít sự khác biệt, vì vậy chiến thắng thuộc về những nhà cung cấp có chi phí thấp nhất (các công ty lớn).
3. Các công ty lớn dường như đều có cùng chiến lược kinh doanh là tạo ra một “nền tảng AI trọn gói“. Databricks đang tham gia vào đào tạo mô hình AI và trí tuệ kinh doanh, cạnh tranh với AWS Sagemaker và Tableau. Github Workspaces đang tham gia vào các đánh giá bảo mật hỗ trợ AI, v.v.

Chiến lược sản phẩm mặc định của các công ty là, xuất phát từ sản phẩm cốt lõi của họ, sở hữu tất cả các sản phẩm thượng nguồn và hạ nguồn, điều này vô tình khiến cuộc sống của các startup khó khăn hơn, vì việc dùng giải pháp hẹp để cạnh tranh trở nên khó khăn.

Bản đồ thị trường hạ tầng AI được cập nhật ngày 28 tháng 6

Ảnh: Bessemer Venture Partners

Tại sao việc chuyển đổi sang phần mềm dọc hoặc tầng ứng dụng không phải là lối thoát?

Đối mặt với tất cả những thách thức kể trên, một số startup hạ tầng AI đã chọn đi theo ngành hẹp hoặc chuyển sang tầng ứng dụng. Ví dụ, tôi đã theo dõi một startup “Trí tuệ kinh doanh với ngôn ngữ tự nhiên” kể từ cuối năm 2022, công ty này đã chuyển đổi mô hình kinh doanh ba lần:

• một nền tảng “trò chuyện với dữ liệu” mục đích chung, sang
• nền tảng “trò chuyện với dữ liệu thông tin kinh doanh”, sang
• nền tảng “trò chuyện với dữ liệu tài chính”.

Những công ty được yêu thích trong lĩnh vực hạ tầng AI là LlamaIndex và Langchain cũng đã đi theo con đường chuyên môn hẹp này khi nói đến các sản phẩm hướng đến doanh nghiệp của họ. LlamaIndex đang tập trung vào dịch vụ trọn gói managed document parsing/OCR, trong khi Langchain đang tập trung vào các giải pháp LLMOps và xây dựng agents. Tôi đoán rằng cả hai đều đang nỗ lực thu hẹp phạm vi của họ hơn nữa, vì ngay cả việc bán dịch vụ dịch vụ trọn gói managed document parsing cũng là một phạm vi rất lớn đối với một startup ở giai đoạn hạt giống, vì Google và AWS cũng đã có các dịch vụ trích xuất văn bản theo chuyên ngành. Cuộc chơi không dễ dàng.

Thu hẹp phạm vi và đi theo chuyên ngành hẹp là một phản ứng điển hình của các startup hạ tầng AI – nhưng tôi cho rằng những việc chuyển hướng kinh doanh này hiếm khi thành công và gây ra một loạt vấn đề mới. Vấn đề quan trọng nhất là những việc chuyển hướng kinh doanh theo chiều dọc này đánh giá thấp tầm quan trọng của chuyên môn sâu về lĩnh vực một khi bạn đi theo chiều dọc, điều mà nhiều người sáng lập hạ tầng AI thiếu. Tích lũy kiến thức chuyên môn mất nhiều thời gian. Ngoài ra, sản phẩm của bạn có thể cần được tùy chỉnh nhiều cho các nhu cầu đặc thù của lĩnh vực chuyên môn, điều này có nghĩa là lợi nhuận thấp hơn.

Chưa kể, các hệ sinh thái tầng ứng dụng này có sự cạnh tranh còn tồi tệ hơn (ví dụ: bản đồ hệ sinh thái về công nghệ ngành luật (LegalTech) của các quỹ đầu tư mạo hiểm (VC) đã hết chỗ để đặt logo mới từ lâu). Không chỉ có sự cạnh tranh từ các startup AI khác, mà còn có sự cạnh tranh từ các công ty phần mềm truyền thống. Việc chuyển hướng kinh doanh sang một lĩnh vực chuyên ngành không loại bỏ đối thủ cạnh tranh của bạn ngay lập tức mà đơn giản là sẽ có những đối thủ cạnh tranh mới trong lĩnh vực đó, những người đã có mặt trước bạn. Ví dụ, ngành công nghiệp công nghệ trong lĩnh vực pháp lý đã tồn tại từ lâu và nhiều công ty Legal AI hiện đang cạnh tranh với các nhà cung cấp công nghệ pháp lý truyền thống kiêm tích hợp hệ thống.

Lời khuyên cho các startup hạ tầng AI

Vậy giải pháp cho các startup hạ tầng AI là gì? Liệu tất cả chúng ta nên hy vọng được mua lại, hay liệu các startup cũng có thể duy trì độc lập lâu hơn và tìm kiếm sự cân đối cung cầu (product market fit)?

Đây là một câu trả lời hơi buồn tẻ, nhưng giải pháp cho các startup là xem xét lại những điều cơ bản: nghiềm ngẫm về cách để tạo ra khác biệt so với các công ty lớn. Dưới đây là bốn cách:

1. Thu hẹp phạm vi hơn nữa: tập trung vào một phân khúc khách hàng doanh nghiệp rất nhỏ, thay vì phục vụ tất cả khách hàng. Đừng xây dựng tất cả các tích hợp. Hãy là một dịch vụ trọn gói về RAG dành cho các khách hàng sử dụngSalesforce và on-prem VMWare, thay vì một dịch vụ RAG chung chung. Các startup không có đủ nguồn lực để giải quyết mọi loại nhu cầu, ít nhất là trong thời gian ban đầu.
2. Tập trung vào một tác vụ: các startup không nên cố gắng giải quyết quá nhiều tác vụ. Hãy làm một việc thật tốt. Đừng cố gắng trở thành một nền tảng để finetune mọi lọa LLM – đã có quá nhiều nền tảng như vậy. Thay vào đó, hãy cố gắng trở thành nền tảng tốt nhất để tinh chỉnh các mô hình Tagalog. Nhược iểm: thị phần (TAM) có thể quá nhỏ.
3. Huy động nhiều tiền từ VC hơn nhu cầu: đua đường dài là điều bắt buộc. Phải mất một thời gian để các doanh nghiệp làm quen với việc mua các giải pháp hạ tầng AI của startup. Hãy chuẩn bị cho trường hợp xấu nhất.
4. Hoặc không huy động tiền của VC: huy động tiền của VC khiến bạn bị buộc phải định hướng chiến lược kinh doanh tập trung vào việc bán cho KH doanh nghiệp – điều đó có thể không phải điều bạn có thể làm hoặc muốn làm. Bạn muốn có sự linh hoạt để giải quyết các vấn đề thú vị và hứa hẹn hơn khi chúng xuất hiện, vì bối cảnh AI luôn thay đổi liên tục.

Cuối cùng, các startup AI nên cởi mở với việc bị mua lại bởi một công ty lớn, ngay cả khi đó không phải là một công ty danh giá như OpenAI hay Google. Quan điểm của tôi là theo thời gian thị trường M&A đối với lĩnh vực hạ tầng AI sẽ trở nên tồi tệ hơn, không phải tốt hơn.

Thị trường mua bán doanh nghiệp sẽ trở nên “hiệu quả” hơn khi người chiến thắng / kẻ thua cuộc lộ mặt và các tác vụ và nhu cầu của doanh nghiệp được xác định rõ ràng hơn. Do đó, để bán startup của bạn với mức định giá “hấp dẫn”, bạn cần tiếp thị trước khi thị trường trở nên kém hiệu quả. Đừng chờ thêm 18 tháng nữa khi tất cả các startup hạ tầng AI cùng lúc bị sập pin để bán startup.

(JOHN HWANG)