最新一代聊天機器人拿名人來造謠，散播黨派之見，大噴假消息，甚至給用戶如何自殺的建議，這種言論自由令人譁然；為緩解這種人工智慧(AI)最明顯的危機，谷歌、OpenAI之類的大科技公司均小心地添增管制方法，限制他們的聊天機器人能說什麼。
紐約時報報導，新一波的聊天機器人引發兩極化的言論自由爭論：聊天機器人該不該管制、由誰決定管制。
WizardLM-Uncensored這款無節制聊天機器人的開發者哈特福德(Eric Hartford)表示，這個問題關係到所有權與控制，他認為自己向他的聊天機器人發問，要的是答案，可不要機器人跟他爭論。
有幾款無限制或限制鬆散的聊天機器人近幾個月現世，如GPT4All、FreedomGPT。很多都是獨立程式人員、志工團隊不花錢或花很少就創造出來，他們成功地複製首由AI研究員描述的方法；平空造出聊天機器人的只有少數團隊。大多數團隊都由現存的語言模型著手，再添加額外指示，指揮這種科技該如何回應提問。
沒節制的聊天機器人提供很撩人的新可能。用戶可下載不受侷限的聊天機器人到自己電腦，使用時不像大科技公司那般提神戒備。接下來他們可訓練聊天機器人來處理私人訊息、個人電郵或祕密檔案，不消擔憂侵犯隱私。
專家說，這些AI模型可以產出未成年人色情品、長篇累牘的仇恨文章或是不實內容。
前「艾倫人工智慧研究所」(Allen Institute for A.I.)所長艾齊歐尼(Oren Etzioni)表示，這種擔憂完全理直氣壯，如果放任，這些聊天機器人會信口胡說，它們可不會自我審查，因此目前問題變成：青睞言論自由的社會，該如何適切解決這個問題。
