HTTPS协议握手过程中，证书的验证过程主要涉及非对称加密算法的使用，以确保数据传输的安全性。以下是详细介绍：

1. 非对称加密算法验证：
- 在HTTPS握手过程中，浏览器首先向网站发送一套支持的非对称加密规则。
- 网站根据这些规则从自身提供的加密算法和HASH算法中选取一组。
- 网站会生成一个证书，这个证书包含了网站的地址、加密公钥以及证书的颁发机构等信息。

2. 证书验证步骤：
- 浏览器首先验证证书的合法性。
- 浏览器会检查证书的颁发机构是否合法，以及证书中包含的网站地址是否与正在访问的地址一致。
- 如果证书受信任，浏览器会显示一个显示小锁头的标志，表示该证书是受信任的。
- 如果证书受信任，浏览器还会检查证书的安全性。如果证书包含的公钥是有效的且未被篡改，那么浏览器会继续进行后续操作。

在具体的验证过程中，浏览器会使用非对称加密算法进行密钥交换和证书验证。具体步骤如下：

- 浏览器生成一个随机数的密码，并使用证书中提供的公钥对握手消息进行加密。
- 网站使用这个密码对消息进行加密，生成一段握手消息。
- 浏览器使用之前生成的随机数对消息进行加密，确保消息在传输过程中不会被篡改。
- 浏览器将之前生成的所有信息发送给网站，包括证书、公钥、随机密码等。
- 网站使用这些信息来验证证书的有效性、公钥的合法性以及消息的安全性。如果所有信息都符合要求，那么网站会确认该证书是受信任的，并允许后续的数据传输。

总的来说，HTTPS协议握手过程中，证书的验证是通过非对称加密算法进行的，以确保数据传输的安全性。这种验证过程涉及到密钥交换、消息加密和证书有效性检查等多个环节，确保只有经过合法认证的证书才能被接受和使用。