ChatGPT đã gây bão trong thế giới công nghệ và không thiếu những cải tiến và cập nhật. Nhưng mặc dù sử dụng công nghệ tiên tiến, có khá nhiều yếu tố hạn chế trong phiên bản hiện tại.
Một trong những yếu tố như vậy là hệ thống mã thông báo, hệ thống này tiếp tục phá vỡ chu kỳ phát triển, khiến tiện ích của ứng dụng phải suy sụp. Nếu sử dụng ChatGPT, bạn có thể muốn biết về mã thông báo của ChatGPT và những việc cần làm khi hết mã thông báo.
Hãy lùi lại một bước và cung cấp cho bạn thông tin chi tiết về tất cả những gì cần biết về cơ chế hoạt động cơ bản của ứng dụng.
Mã thông báo ChatGPT là gì?
Nếu bạn đi qua mặt tiền của ứng dụng, tất cả những gì bạn thấy là ngôn ngữ máy tính tuân theo mệnh lệnh của bạn và cung cấp cho bạn câu trả lời mà bạn tìm kiếm. Tuy nhiên, phần phụ trợ chỉ là rất nhiều mã, học mỗi phút và bắt kịp tốc độ với các câu hỏi mà nó trả lời.
ChatGPT chuyển đổi từng từ thành mã thông báo dễ đọc bất cứ khi nào bạn đặt câu hỏi. Để chia nhỏ hơn nữa, mã thông báo là các đoạn văn bản và mỗi ngôn ngữ lập trình sử dụng một bộ giá trị mã thông báo khác nhau để hiểu các yêu cầu.
Vì máy tính không hiểu trực tiếp các giá trị văn bản nên chúng chia nhỏ chúng thành tổ hợp các số, thường được gọi là phần nhúng. Bạn thậm chí có thể xem xét các nhúng như danh sách Python, giống với danh sách các số liên quan, chẳng hạn như [1.1,2.1,3.1,4.1…n].
Sau khi ChatGPT nhận đầu vào ban đầu, ChatGPT sẽ cố gắng dự đoán đầu vào có thể tiếp theo dựa trên thông tin trước đó. Nó chọn toàn bộ danh sách các mã thông báo trước đó và, bằng cách sử dụng tổng hợp mã hóa của nó, cố gắng chiếm trước đầu vào tiếp theo của người dùng. Nó sử dụng và dự đoán một mã thông báo tại một thời điểm để giúp ngôn ngữ hiểu cách sử dụng dễ dàng hơn.
Để tăng cường dự đoán và cải thiện độ chính xác, nó chọn toàn bộ danh sách nhúng và chuyển nó qua các lớp biến áp để thiết lập liên kết giữa các từ. Ví dụ: khi bạn đặt câu hỏi như “Thomas Edison là ai?”, ChatGPT sẽ chọn ra những từ có giá trị nhất trong danh sách: Ai Và Edison.
Các lớp biến thế có vai trò của chúng trong toàn bộ quá trình. Các lớp này là một dạng kiến trúc mạng thần kinh được đào tạo để chọn các từ khóa phù hợp nhất từ một chuỗi từ. Tuy nhiên, quá trình đào tạo không đơn giản như người ta tưởng, vì phải mất nhiều thời gian để đào tạo các lớp máy biến áp trên hàng gigabyte dữ liệu.
Mặc dù ChatGPT chỉ dự đoán một mã thông báo tại một thời điểm, nhưng công nghệ tự động hồi quy của nó được lập trình để dự đoán và phản hồi lại mô hình chính để giải phóng đầu ra. Mô hình được điều chỉnh để chỉ chạy một lần cho mỗi mã thông báo, vì vậy kết quả được in ra từng từ một. Đầu ra tự động dừng khi ứng dụng gặp lệnh mã thông báo dừng.
Ví dụ: nếu bạn xem công cụ tính toán mã thông báo trên trang web ChatGPT, bạn có thể tính toán mức sử dụng mã thông báo của mình dựa trên các câu hỏi của bạn.
Hãy nhập một số văn bản mẫu, chẳng hạn như:
How do I explain the use of tokens in ChatGPT?
Theo máy tính, có 46 ký tự trong chuỗi này, sẽ tiêu tốn 13 mã thông báo. Nếu bạn chia nó thành ID mã thông báo, nó sẽ giống như thế này:
[2437, 466, 314, 4727, 262, 779, 286, 16326, 287, 24101, 38, 11571, 30]
Theo máy tính mã thông báo OpenAI:
Một nguyên tắc nhỏ hữu ích là một mã thông báo thường tương ứng với ~4 ký tự văn bản đối với văn bản tiếng Anh thông dụng. Điều này có nghĩa là khoảng ¾ từ (vì vậy 100 mã thông báo ~= 75 từ).
Token miễn phí so với trả phí
Để cung cấp cho bạn hương vị của những gì trong ứng dụng ChatGPT, OpenAI cung cấp cho bạn đăng ký mã thông báo giới hạn miễn phí. Nếu bạn muốn thử nghiệm API ChatGPT, hãy sử dụng khoản tín dụng miễn phí $5, khoản tín dụng này có giá trị trong ba tháng. Sau khi hết hạn mức (hoặc hết thời gian dùng thử), bạn có thể thanh toán theo mức sử dụng, điều này làm tăng hạn mức tối đa lên 120 đô la.
ChatGPT Plus: Đăng ký trả phí có xứng đáng không?
Để nâng cấp, bạn thậm chí có thể đăng ký Ưu đãi ChatGPT Plus, giúp bạn trả lại 20 đô la một tháng. Với việc sử dụng rộng rãi và mức độ phổ biến của toàn bộ mô hình AI, đây là các tính năng hàng đầu của mô hình đăng ký trả phí:
- Truy cập vào ChatGPT, ngay cả khi trang web gặp phải thời gian ngừng hoạt động do lượng người dùng quá lớn
- Cải thiện tỷ lệ phản hồi
- Truy cập trực tiếp vào các tính năng và bản phát hành mới
Nếu bạn cảm thấy những tính năng này hoàn toàn xứng đáng và phù hợp với sở thích của mình, bạn có thể đăng ký thuê bao trả phí và hưởng lợi từ chúng ngay lập tức.
Cấu trúc định giá mã thông báo ChatGPT
Có sẵn một số mô hình ứng dụng khác nhau mà bạn có thể chọn dựa trên yêu cầu của mình:
|
Người mẫu |
Giá cho 1000 mã thông báo (nhắc nhở) |
Giá cho 1000 mã thông báo (hoàn thành) |
|---|---|---|
|
Ađa |
$0,0004 |
$0,0004 |
|
bắp cải |
$0,0005 |
$0,0005 |
|
Curie |
$0,0020 |
$0,0020 |
|
davinci |
$0,0200 |
$0,0200 |
|
Trò chuyệnGPT |
$0,0020 |
$0,0020 |
|
Bối cảnh GPT-4 8k |
$0,0300 |
$0,0600 |
|
Bối cảnh GPT-4 32k |
$0,0600 |
$0,1200 |
Ada là người nhanh nhất, trong khi DaVinci là người mẫu mạnh mẽ nhất trong danh sách người mẫu này. Lời nhắc là câu hỏi, trong khi phần hoàn thành đề cập đến câu trả lời.
Giới hạn mã thông báo tối đa
Mỗi mô hình cho phép bạn đặt số lượng mã thông báo tối đa trong mỗi truy vấn. Phương thức này kiểm soát số lượng mã thông báo tối đa mà ứng dụng tạo trong một lệnh gọi, giới hạn đầu ra. Tính năng max_token khá hữu ích, đặc biệt khi bạn muốn kiểm soát độ dài của đầu ra trong khi tránh lạm dụng việc sử dụng mã thông báo và tín dụng của mình. Độ dài mặc định được cố định ở 2048 mã thông báo, trong khi độ dài tối đa có thể được đặt ở 4096 mã thông báo.
Hạn chế sử dụng mã thông báo có thể dẫn đến câu trả lời ngắn, điều này có thể hạn chế đầu ra và ảnh hưởng đến trải nghiệm sử dụng của bạn.
ChatGPT3 có giới hạn trên là 4096; tuy nhiên, với việc giới thiệu ChatGPT4, giới hạn mã thông báo được tăng lên, như sau:
|
Người mẫu |
Giá cho 1000 mã thông báo (nhắc nhở) |
|---|---|
|
Ađa |
2048 |
|
bắp cải |
2048 |
|
Curie |
2048 |
|
davinci |
4096 |
|
Trò chuyệnGPT |
4096 |
|
Bối cảnh GPT-4 8k |
8192 |
|
Bối cảnh GPT-4 32k |
32768 |
Nếu đầu ra của bạn bị cắt bớt, bạn phải tăng giới hạn tối đa đã chỉ định từ trang tổng quan của mình. Hãy nhớ rằng tổng số mã thông báo nhắc và tối đa của bạn phải luôn nhỏ hơn giới hạn mã thông báo tối đa của mô hình.
Ví dụ: trong mô hình ChatGPT, prompt_tokens + max_tokens <= 4096 mã thông báo.
Tìm hiểu cách kiểm soát lời nhắc ChatGPT của bạn để có kết quả tốt nhất
Cho dù bạn sử dụng ứng dụng do AI điều khiển như thế nào, rất có thể bạn sẽ phải nghĩ ra cách chơi thông minh với các câu hỏi và cụm từ của mình. Tùy thuộc vào kiểu sử dụng của bạn, bạn có thể sẽ sử dụng rộng rãi ChatGPT cho mọi tác vụ.
Để có được kết quả tốt nhất, bạn phải học cách làm việc với phương pháp mã thông báo và nâng cao kỹ năng của mình để đảm bảo giới hạn sử dụng của bạn vẫn còn nguyên vẹn trong khi đưa ra câu trả lời tốt nhất có thể cho bạn.
