本文转自:情报分析师(Intelligencer1)微信公众号
互联网上存在很多开源情报(Open-Source Intelligence,OSINT)信息,其中开源是指公众容易获取和分发的信息或程序;情报是获取和应用知识的能力。总的来说,开源情报就是从公开来源获取、收集和分析信息以产生有价值情报的过程,其来源包括互联网、社交媒体、学术和专业期刊、报纸、电视甚至某些被违规泄露的数据。
1. OSINT Framework#
OSINT Framework 是一个包含不同工具的网站,用户可以使用这些工具在不同的系统和知识库中查询开源情报信息,包括电子邮件地址、社交媒体、域名、搜索引擎、公共记录、文档甚至电话号码等。
比如用户想了解 “社交媒体” 相关信息,OSINT Framework 就会将其细分出子部分列表,如 Facebook、Twitter、Instagram、Reddit、LinkedIn 等,用户可以进一步选择子分类,其中就会包含搜索、分析、图片、位置和存储 / 删除的推文等。当选择 “分析” 后,它还会呈现推文元数据、Birdwatcher、Tinfoleak 等细分部分。
应用链接:https://osintframework.com/
2. Wayback Machine#
Wayback Machine 被称为互联网的数字档案馆。它用于管理、捕获和归档网站在一段时间内的快照,即使原始网页被删除或改动,用户仍然可以查阅曾经的网页快照。目前,Wayback Machine 每天收到的请求数(包括查阅和存档请求)超过 10 亿次,累计已经缓存了近 7000 亿个不同时刻下的各种网页页面。
用户可以通过 Wayback Machin 的 “保存页面” 服务存档上亿个网站,如果注册了免费账户,还可以要求抓取相关页面的 “外部链接”(outlink),并通过电子邮件接收抓取情况的报告。
当需要回溯历史信息时,Wayback Machin 会以 “年份选择器” 和 “日期选择器” 的形式向用户呈现该网站的所有保存记录。如果想比较两个不同网页存档之间的差异,可以使用 Wayback Machin 的 “查阅改动”(Changes)功能来实现这一点。
3.Maltego#
Maltego 主要通过使用开源情报技术查询诸如 DNS 记录、whois 记录、搜索引擎、社交网络、各种在线 API 和元数据提取之类的源头,从而发现这些信息之间的链接。Maltego 程序通过自动搜索不同的公共数据源来工作,因此用户可以单击一个按钮并执行多个查询,每次执行的查询可以返回多达 12 个实体。由于该程序使用公共接口来执行搜索,因此它几乎可以与任何具有公共接口的信息源兼容。
一旦收集到信息,Maltego 就会建立链接,以展现姓名、电子邮件地址、别名、公司、网站、文档所有者、附属机构和其他可能对调查有用的信息之间的隐藏关系,或寻找潜在的未来问题。它可以在 Windows、Linux 和 Mac 上下载,并且预装在 Kali Linux 中。
该程序有一个免费版本,功能有限,称为 Maltego CE。Maltego PRO 版本主要针对专业调查人员和小型团队的计划,包括 Maltego One 桌面、所有 Maltego 标准转换,以及访问商业转换中心(查看所有功能的完整列表)。
4. Have I Been Pwned#
Have I Been Pwned 是 Troy Hunt 创建的免费网站资源,该网站收集了大量被拖库的数据库,可供用户查询自己的个人信息是否因数据泄露受到损害。用户只需在搜索框中输入要查询的姓名或电话号码,它就会搜索泄露数据库以查看对应的凭据是否已遭泄露。如果发现相关泄露事件,下滑页面就可以看到泄漏的信息。
应用链接:https://haveibeenpwned.com/
5. Shodan#
Shodan 是一个专用搜索引擎,用于搜索互联网和连接到它的不同网络服务器。这意味着使用 Shodan,用户就可以浏览其数据库以查找连接到互联网的设备,例如路由器、物联网(IoT)设备、监视器、安全摄像头、交通信号灯等。
作为一款功能强大的 OSINT 工具,Shodan 可以监控和搜索的范围体量令人震惊。它是少数能够检查操作技术(OT)的引擎之一。如果没有像 Shodan 这样的工具,想要在部署 IT 和 OT 的行业中收集开源情报会存在很大的缺失。
Shodan 创建账号是免费的,但是可以免费查询到的信息少得可怜。如果要进一步查询更多的信息,用户需要购买 Shodan 的会员服务。除了个人版本,Shodan 还推出了小型企业版和企业高级版的收费版本,其中小型企业可扫描多达 65,536 个 IP 地址,并返回多达两千万个结果;企业高级版提供无限的返回结果以及每月最多 327,680 个 IP 扫描,还包括漏洞搜索过滤器和高级支持等服务。
应用链接:https://account.shodan.io/
6. TinEye#
TinEye 是 Idée 公司所开发的一个反向图像搜索和图像识别网站,2008 年就已经正式上线应用。它使用计算机视觉、模式识别、神经网络和机器学习来提供快速准确的搜索解决方案。要使用 TinEye,只需将用户想要获取信息的图像上传到网站即可。该站点将获取有关图片位置、来源、使用甚至更高分辨率的信息。
应用链接:www.TinEye.com
7. Censys Search#
Censys Search 是一个基于网络的搜索引擎,其创建之初的目的主要是用作学术研究,自身定位也是一个公益项目,由密歇根大学和 Rapid7 公司合作完成。Censys 官网上这样定义该搜索引擎:“Censys Search 是一款搜索引擎,它允许计算机科学家了解组成互联网的设备和网络。Censys 由互联网范围的扫描驱动,使得研究人员能够找到特定的主机,并能够将设备、网站和证书的配置和部署信息创建到一个总体报告中。” 像 Shodan 一样,它会在互联网上搜索服务器以及联网设备。此外,它还能够识别联网的工业控制系统和平台。
应用链接:https://censys.io
8. BuiltWith#
BuiltWith 是一款用于发现流行网站构建技术和编程语言的工具。它是一个网站分析器、商业智能(BI)、潜在客户生成和竞争分析工具。BuiltWith 还会生成一个网站使用的已知 JavaScript/CSS 库(例如 jQuery 或 Bootstrap)的完整列表。此外,该服务还提供安装在网站上的插件列表、框架、服务器信息、分析和跟踪信息等。在实际应用中,如果将 BuiltWith 与 WPScan 等网站安全扫描程序结合使用,可以让安全人员更容易发现影响网站安全的常见漏洞。
9. Nmap#
Nmap 是一款免费的网络和端口扫描器,用于发现在网络或网站上运行的服务操作系统、主机和开放端口。它在 Web 上可用,并且在大多数常见操作系统上都能被支持。
Nmap 的功能包括:
・主机发现:识别网络上的主机;
・端口扫描:枚举目标主机上的开放端口;
・版本检测:询问远程设备上的网络服务以确定应用程序名称和版本号;
・OS 检测:确定网络设备的操作系统和硬件特性;
・脚本交互:使用 Nmap 脚本引擎(NSE)和 Lua 编程语言。
应用链接:https://nmap.org/
10. Recon-ng#
Recon-ng 是一款基于 python 开发,通过命令行来操作的信息收集工具。Recon-ng 可以进行 DNS 信息收集、域名信息收集、邮件信息收集、结合搜索引擎进行信息收集,是一个功能强大的 Web 侦察框架。
Recon-ng 采用模块化设计框架,具有许多内置功能,使得即便是最初级 Python 开发人员也可以创建公开可用数据搜索并返回良好的结果。开发人员无需编写 Recon-ng 脚本来执行搜索,只需选择他们希望其执行的功能,就可以在几分钟内构建一个自动化模块。
应用链接:https://bitbucket.org/LaNMaSteR53/recon-ng
11. The Harvester#
The Harvester 是一款开源情报工具,用于收集有关电子邮件、网站、子域、开放端口、虚拟主机等信息。The Harvester 使用的来源包括流行的搜索引擎,如 Bing 和 Google,以及较少见的搜索引擎,如 dogpile、DNSdumpster 和 Exalead 元数据引擎。它甚至可以利用 Shodan 搜索引擎来寻找已发现主机上的开放端口。
The Harvester 无需任何特殊准备即可访问大多数公共资源。但是,其使用的部分功能需要 API 密钥。此外,用户的使用环境中还必须有 Python 3.6 或更高版本。
应用链接:https://github.com/laramies/theHarvester