可以。
相关规定是:
自2017年7月1日起,购买方为企业的,索取增值税普通发票时,应向销售方提供纳税人识别号或统一社会信用代码;销售方为其开具增值税普通发票时,应在“购买方纳税人识别号”栏填写购买方的纳税人识别号或统一社会信用代码。
普通发票上是否填写联系地址和电话,目前未作强制要求。
特别提示:本公告所称企业,包括公司、非公司制企业法人、企业分支机构、个人独资企业、合伙企业和其他企业。
因为政府机关不是增值税纳税人,更不是企业,所以,只要提供组织机构代码即可。
给政府部门开普票,如果没有税号可以不填写。