【分析】
（1）求m值和直线解析式时，先利用反比例函数图象上的点满足函数表达式，将A点坐标代入双曲线解析式即可求出m；再将B点横坐标代入反比例函数解析式求出a，得到B点完整坐标；最后把A、B两点坐标代入一次函数表达式，解二元一次方程组即可得到k、b的值，进而得到直线解析式。
（2）不等式$kx+b＞\frac{m}{x}$的几何意义是直线图象在双曲线上方时对应的x取值范围，结合两函数交点的横坐标以及$x＜0$的限定，直接观察图象即可得到解集。
（3）$△ ABO$没有边在坐标轴上，直接计算面积难度较大，因此采用割补法：先求出直线AB与x轴的交点C的坐标，将$△ AOB$的面积转化为$△ AOC$与$△ BOC$的面积差，两个三角形同底为OC的长度，高分别为A、B两点的纵坐标，代入面积公式即可求解。
【解析】
(1)
∵ 点$A(-2,6)$在双曲线$y=\frac{m}{x}$上，
∴ $m=-2×6=-12$，
∴ 双曲线解析式为$y=-\frac{12}{x}$。
∵ 点$B(-6,a)$在双曲线$y=-\frac{12}{x}$上，
∴ $a=\frac{-12}{-6}=2$，即$B(-6,2)$。
∵ 点A、B在直线$y=kx+b$上，
∴ 代入得$\begin{cases}-2k+b=6 \\ -6k+b=2\end{cases}$，解得$\begin{cases}k=1 \\ b=8\end{cases}$，
∴ 直线的解析式为$y=x+8$。
(2) 观察图象可知，直线在双曲线上方的部分对应的x取值范围是$-6＜x＜-2$，即不等式$kx+b＞\frac{m}{x}$的解集为$-6＜x＜-2$。
(3) 设直线AB与x轴交于点C，在$y=x+8$中令$y=0$，得$x=-8$，
∴ $C(-8,0)$，$OC=8$，
∴ $S_{△ AOB}=S_{△ AOC}-S_{△ BOC}=\frac{1}{2}×8×6 - \frac{1}{2}×8×2=24-8=16$。

【答案】
(1) $m=-12$，直线解析式为$y=x+8$；
(2) $-6＜x＜-2$；
(3) $16$。

【知识点】
待定系数法求解析式，一次函数与反比例函数的交点，割补法求面积
【点评】
本题是一次函数与反比例函数的综合基础题，考查了函数图象上点的坐标特征、数形结合解不等式、不规则图形面积的计算，解题关键是熟练掌握待定系数法的应用，灵活运用割补法转化面积计算。
【难度系数】
0.75