前言
当开发者需要为不同目的以不同形式处理URL时，比如说浏览器历史导航，锚点目标，查询参数等等，我们经常会借助于JavaScript。然而，它的频繁使用促使攻击者利用其漏洞。这种被利用的风险是我们必须在我们的JavaScript应用程序中实现URL验证的原因。
URL验证检查URL是否遵循正确的URL语法，也就是每个URL必须具备的结构。URL验证可以使我们的应用程序免遭基于URL的漏洞，比如恶意脚本注入和服务器端请求伪造（SSRF）。当我们在获取远程资源时没有应用安全编码惯例来验证用户提供的URL时，恶意行为者可以采用SSRF攻击。
URL验证
URL验证的存在是为了加强安全，防止可能存在的漏洞，并消除运行代码时产生的任何错误的机会。但是我们应该在什么时候使用URL验证，在这个过程中我们要验证什么呢？我们应该在所有必须识别和验证诸如网页、图片、gif和视频等资源的软件中实施URL验证。
一个典型的URL包括多个片段，比如协议、域名、主机名、资源名、URL源、端口等等。这些用来告诉浏览器如何追踪指定的资源。我们可以以不同的方式来验证URL：
- 使用正则字面量和构造函数
- URL构造函数
isValidURL方法- Input元素
- Anchor标签方法
一个典型的URL验证方案接收来自用户的输入，然后对其进行解析，以识别其各个组成部分。验证方案可以确保所有的URL组件符合互联网标准。例如，如果需要，它可以检查URL是否使用安全协议。
主机名验证首先是将主机名分成独立的标签，以确保它们符合顶级域名规范。一个典型的主机名由至少两个用点分隔的标签组成。例如，www.snyk.com 有 "www"、"snyk"和 "com"的标签。每个标签只能由一个字母数字字符或一个连字符组成，无论大小写。然后，验证方案可以确保主机名与URL的允许列表相匹配，以确保只允许指定的URL，并且允许的URL不会被错误地取消资格。
默认情况下，URL中使用的大多数资源的路径都是允许的。然而，端口只能在1到65536的范围内。任何超出这个范围的东西都应该抛出一个错误。我们还可以检查数字IP地址，以判断它是一个IPV4地址还是IPV6地址。
最后，我们也可以检查URL的用户名和密码。这个功能有助于遵守公司政策和凭证保护。
现在，你已经有了这些基础知识，让我们来看看使用javascript的URL验证吧。
如何执行URL验证
在JavaScript中，执行URL验证最简单的方式是使用new URL构造函数。除此之外，它还得到了Node.js运行时和大多数浏览器的支持。
基本语法如下：
new URL (url)
new URL (url , base)
如果提供相对URL，JavaScript只需要base元素。如果不提供相对URL，默认为undefined。另外，如果提供一个具有绝对URL的base元素，JavaScript会忽略base元素。
为了验证URL，可以使用以下代码：
function checkUrl (string) {
let givenURL ;
try {
givenURL = new URL (string);
} catch (error) {
console.log ("error is", error);
return false;
}
return true;
}
该函数用于检查URL的有效性。当URL有效时返回true，否则返回false。
- 如果你传递
www.urlcheck.com给该函数会返回false。因为该参数并不是一个有效的URL。正确版本应该是https://urlcheck.com。 - 另一个例子是
mailto:[email protected]。这是一个有效的URL，但如果移除了冒号，JavaScript就不再认为它是一个URL了。 - 第三个例子是
ftp://。这不是一个有效URL，因为没有包含主机名。如果你添加两个点（..），就会变成有效URL。因为点会被认为是一个主机名，也就是说ftp://..变成了一个有效的URL。
重要的是要记住，非常规的、但完全有效的URL是存在的！它们可能对从事这些工作的开发人员来说是意外的，但在其他方面是完全合适的。例如，以下两个URL都会返回真值：
new URL("youtube://a.b.c.d");new URL("a://[email protected]");
这些例子提醒我们，开发者应该依靠URL验证原则，而不是专注于惯例。
如果你想确保有效的URL包含一些特定的URL方案，你可以使用以下函数：
function checkHttpUrl(string) {
let givenURL;
try {
givenURL = new URL(string);
} catch (error) {
console.log("error is",error)
return false;
}
return givenURL.protocol === "http:" || givenURL.protocol === "https:";
}
该函数验证URL，然后检查URL是否使用HTTP或者HTTPS。在这里，ftp://..会被认为是无效的，因为它不包含HTTP或者HTTPS，而http://..依旧有效。
使用URL构造函数的一些其他方式包括：
let m = '<https://snyk.io>';
let a = new URL("/", m);
上述示例使用了base元素。记录下这个值，我们就可以得到https://snyk.io/。
要返回一个URL对象而不指定base参数的话，语法是：
let b = new URL(m);
为了给主机添加一个路径名，我们的代码结构如下：
let d = new URL('/en-US/docs', b);
存储在变量d上的URL是https://snyk.io/en-US/docs。
URL模块的另一个功能是，它实现了WHATWG URL API，它遵守WHATWG的URL标准，供浏览器使用：
let adr = new URL("<https://snyk.io/en-US/docs>");
let host = adr.host;
let path = adr.pathname;
在上面的例子中，我们创建了一个名为adr的URL对象。接着，代码获取URL的主机和路径名，分别是snyk.io和/en-US/docs。最后，我们可以将URL和允许列表或者黑名单进行对比，确保只有特定URL是被允许的。
如何使用正则验证
另一种验证URL的方法是使用正则表达式（regex）。我们可以使用Regex来检查URL是否有效。
使用regex进行URL验证的JavaScript语法是：
function isValidURL(string)
{
var res =
string.match(/(https?:\/\/(?:www\.|(?!www))[a-zA-Z0-9][a-zA-Z0-9-
]+[a-zA-Z0-9]\.[^\s]{2,}|www\.[a-zA-Z0-9][a-zA-Z0-9-]+[a-zA-Z0-9]
\.[^\s]{2,}|https?:\/\/(?:www\.|(?!www))[a-zA-Z0-9]+\.[^\s]{2,}|w
ww\.[a-zA-Z0-9]+\.[^\s]{2,})/gi);
return (res !== null);
};
来测试一些URL：
var tc1 = "<http://helloworld.com>"
console.log(isValidURL(tc1));
regex定义的URL语法检查URL是否以http://或https://或子域开始，以及是否包含域名。控制台上的语句结果是true，因为它遵循了由regex定义的URL语法。相反，下面的语句将返回一个false，因为它没有以任何允许的方案或子域开始，也不包含域名：
var tc4 = "helloWorld";
console.log (isValidURL(tc4));
上面的正则表达式相对简单，但仍然难以驾驭。这也是一个容易出错的方法，因为一个正则表达式不能充分处理验证URL的规则。它最多只能做到匹配有效的URL。此外，当一个正则表达式要么包含复杂的验证逻辑，要么收到冗长的输入字符串时，执行验证检查就变得很耗时。
为了满足定义的正则表达式验证检查，浏览器必须在输入字符串中进行数以百万计的回溯。如此多的回溯检查可能会导致"灾难性的回溯"，这种现象是复杂的正则表达式会冻结浏览器或使CPU核心进程爆满。
安全使用JavaScript
正如SSRF被添加到新的OWASP Top 10中所证明的那样，URL验证对于JavaScript应用程序的安全性已经变得越来越关键。幸运的是，我们可以通过在服务器端验证URL来帮助缓解此类攻击。此外，根据验证和处理URL的首选方式来使用new URL函数会非常有益。
在看到new URL函数的一些使用案例后，我们学习了如何用正则表达式验证一个URL--并看到了为什么这种方法很麻烦而且容易出错。
URL的安全风险与其说是关于其有效性，不如说是关于危险的URL方案。因此，我们需要确保让服务器端的应用程序进行验证。攻击者可以绕过客户端的验证机制，所以仅仅依靠它并不是解决办法。
以上就是本文的所有内容，如果对你有所帮助，欢迎点赞、收藏、转发~
- 本文译自：https://snyk.io/blog/secure-javascript-url-validation/
- 作者：Mannan Tirmizi