云计算国产化之路 vnc登录 文件系统直通(virtio-9p) 扩展qemu接口 gpg WARNING 珍藏博客 虚拟内存情况dommemstat分析 免密码自动登录脚本 Linux网桥 测试网段IP占用情况 Linux 进程状态 systemc强制依赖 调试openstack ut uefi p2v 重做ubuntu内核 virsh创建虚拟机简介 virtio IO路径 虚拟化层升级后磁盘无法卸载卷 vmtouch使用 Taint flags 主机和虚拟机文件共享处理的几种方法 kvm分析工具 kvm中对磁盘的io cache 虚拟化不同导致的guestos中软件安装差异(未解决) 设备直通(PCI Assignment)到底是咋整的 virtio到底是咋整的 内核启动参数 虚拟化实时性提升(零)之配置步骤 中断虚拟化(pic)到底是咋整的 中断虚拟化(apic)到底是咋整的 Raid卡配置丢失导致服务器无法启动 tainted kernels cpu stuck for 23s问题分析 虚拟化实时性提升(一)之hostOS切换为强实时系统 内存虚拟化到底是咋整的 qemu-kvm中vcpu虚拟化到底是咋整的 风河虚拟化技术点分析 使用qga的好处 qemu迁移代码分析 虚拟机串口配置及其导出到主机pts和console.log System-based I/O vs. Raw I/O 虚拟机使用Hugepage(大页) 硬件辅助分页(hardware assisted paging) 修改centos7默认启动项目 virtio的工作流程——kernel中virtio-pci初始化(2) virtio的工作流程——qemu中virtio-backend初始化(1) qmp ceilometer取不到memory.usage指标 Virtio-Balloon超详细分析 slabtop输出 虚拟机磁盘cache导致的host os kernel崩溃 虚拟机cpu和memory性能优化测评 PCI配置空间(PCI Configuration Space) centos下网卡设备直通(VT-dpci passthrough)遇到的问题及其解决思路 libguestfs详解 yum卸载软件包及其依赖 通过原始Centos ISO来定制自己的ISO centos下网卡设备直通(VT-d,pci passthrough) (占位符)window虚拟机中拔盘如何通知到libvirt和qemu后端的 cirrus漏洞分析CVE-2017-2615 XSA-208 qcow2随笔 控制寄存器概览 ceilometer对接postgresql 解压initrd和vmlinuz qemu guest agent验证 QEMU升级指南(待续) ubuntu中kdump的配置 qemu(2.3)接口梳理 热迁移导致的FC存储场景下的multipath卷残留问题分析 virsh命令(4)secret,snapshot,pool,volume部分 virsh命令(3)之interface,filter,network virsh命令(2)monitor,host,nodedev部分 virsh命令(1)之domain部分 QEMU内存管理之FlatView模型(QEMU2.0.0) ovirt基于sanock的高可用(主机粒度HA) Sanlock防脑裂场景功能测试用例 gnocchi配置及与ceilometer对接指南 make patch for libvirt in centos centos使用sanlock指导 高可用nfs资料 ubuntu14中使用sanlock指导 LVM操作指南 sanlock相关功能验证流程汇总 make patch for libvirt in ubuntu libvirt.so.0-version `LIBVIRT_PRIVATE_1.2.7' not found gdb debug libvirt 基于ubuntu社区源码包编译libvirt compile libvirt(centos) No PCI buses available nfs lead to Linux halt nfs install and config anti-virus for cloud platform nova fetch image from glance(something about _base) token auth process ovs入门指南 virt software anti-virus something about ceilometer disk sample context interview questions openstack vm injection openstack Restful and RPC murano 概览 创建虚拟机流程(compute节点)之网络创建 创建虚拟机流程之compute_api之虚拟机实例填充之配额检测 创建虚拟机流程之compute_api之基本参数生成 创建虚拟机流程之compute_api 创建虚拟机流程(主) 创建虚拟机之image 创建虚拟机流程之准备网桥 创建虚拟机流程之virt 创建虚拟机流程之compute节点 CI/CD研发流程之工程创建 CI/CD研发流程之代码合入 CI/CD研发流程之UT(单元测试) 向openstack社区合入代码记 openstack/ceilometer/gnocchi杂谈 影子页表原理 mem_add(exec.c) qemu编译安装调试 openstack/ceilometer/gnocchi之Grafana简介 openstack wiki etcd openstack计量ceilometer openstack计费cloudKitty enventlet backdoor USB 安装VMWARE ESX pycharm设置指南 无法执行modprobe -a kvm-intel解决办法 QEMU配置项 网络不通小记 libvirt之XML(虚拟机定义文件) openstack-horizon 证书认证 ceilometer与ceph对接 openstack定时任务剖析(TODO) 服务器重启后mongodb进程无法启动 ubuntu14下新增openstack服务到service的导引 ERROR 1045(28000)-数据库连不上 Python两个内置函数—locals和globals unknown exit, hardware reason 31

底层虚拟化版本过低问题导致虚拟机热迁移失败的问题定位(Unkown savevm section type 5 win7)

2014年11月03日

问题现象及其背景

虚拟机热迁移后,所属主机不变。 经过查阅日志,发现底层已经报错了,跟踪代码发现,由于绿色线程导致错误没有抛出到界面。

在qemu对应的虚拟机日志下可见Unkown savevm section type 5等字样

libvirt层迁移是失败的,openstack定时任务感知到迁移后虚拟机的状态和电源状态不一致,后台将虚拟机强制关机。

在虚拟机被关机的间隙中,从portal继续执行热迁移(因为上层没有感知错误,还可以点击)会报错。

关机后,此虚拟机从portal上无法开机。 硬重启虚拟机后,发现虚拟机正常,但是登录到计算节点,会发现源节点和目标节点各有一个对应id的虚拟机。 原因是,上述热迁移过程中,虽然失败,但是没有信息回滚,相关信息在openstack中已经更新到目标节点中。 硬重启时,发现目标节点没有虚拟机,又重新按照既有信息创建了一个,这就导致了两个节点都有虚拟机,从而导致脑裂。

这也就解释了为什么,虚拟机个数审计的时候一直出告警,如下图:

问题调查

进过查阅,怀疑是qemu的bug,详情点击这里 (需要注意题主描述的有误,本人验证内存为6G同样有问题)

当前qemu版本

同时,直接安装Liberty版本,发现对应的qemu是2.3.0 遂计划直接用Liberty版本验证。

问题验证

按照官方安装指导书安装环境,虽然这里也遇到很多坑,但为了聚焦这里不展开。

使用raw格式的镜像创建虚拟机

(这里一定要分段,专门吐槽下ceph,太坑了,只支持raw格式的镜像,从远方服务下载镜像耗费了10小时,30G啊,懒得做镜像是另外一个问题了,好吗?)

然后vnc登陆进去发现,直接卧槽蓝屏,错误码是0x0000005d(懒得改回去截图了,凑合理解吧)

经查阅是虚拟化层qemu对win7虚拟机支持有问题,需要使用kvm,即nova-compute.conf文件里需要改为kvm,如图:

好,我按照参考文档加载kvm模块。

但是执行到

modprobe kvm-intel

报错,具体看本人的其他博文

至此,创建出虚拟机,热迁移,发现可以正常迁移。 问题验证结束

正在考虑既有环境,如何升级虚拟化层。 另外,官方的qemu版本已经升级了,从另外一个角度确认此处问题。