在各類自動生成式人工智慧技術開始盛行之下，除了開始有人反應隱私、安全等問題之外，顯然運作過程造成耗電也會是接下來許多人關注問題。
依照流量監測網站Similarweb統計數據，OpenAI推出的ChatGPT服務已經在今年3月內累積吸引全球地區約16億次使用量，相比2月時的使用量已經增加約60%，更是1月時的3倍左右。
而如同Google搜尋等服務一樣，使用者每次使用ChatGPT服務，背後都會連動許多運算時產生的電力損耗，在累積更多人使用之後，其累積耗電規模更是加倍成長。
若以每名使用者平均每次向ChatGPT服務提問5個問題，在今年3月約累積提問80億個問題，平均每日對應提問數量約達2.7億個。假設每次提問長度約控制在30個單詞內，亦即ChatGPT服務每天需處理超過80億個單詞推論，從NVIDIA A100加速器推理單一單詞約花費0.35秒情況來看，代表每天透過單張A100加速器處理這些推論量，至少要花費78萬小時。
以上數據都還沒有列入使用高峰期的使用量，以及特定情況可能會有更龐大運算需求的情況，甚至也未列入其他運算需求。而為了滿足更快運算反應效率，ChatGPT服務背後不可能僅透過單張A100加速器完成所有運算，至少會使用超過3.24萬張，才能維持服務使用反應效率。
那麼，如果以3.24萬張A100加速器作計算，大約是以4000台各自搭載8張A100加速器的NVIDIA DGX A100超級電腦加總運算，而平均每台DGX A100超級電腦售價為19.9萬美元，最大運作公號為6.5kW，加總下來的成本就將近8億美元，3月時的總耗電量就達1872萬kW。
再以上述數據計算，平均每完成一次使用者提問，ChatGPT服務所產生耗電量，約可將60W的燈泡持續點亮140秒，而總累積電費也相當可觀，但這些耗電都還沒有列入系統冷卻所需耗電，以及整體運作時的其他耗電項目。
不過，跟目前的搜尋服務一樣，隨著人工智慧技術演算方式持續精進，加上半導體製程、運作模式改進，未來人工智慧運算背後所產生耗電問題，應該也能持續獲得改善。
