canvas画两个四边形的问题

Question

如图,我在一个canvas上画了两个四边形,这两个四边形都可以拉伸.

现在是有两个需求:
1.这两个四边形都不可以拉成凹四边形;
2.小四边形要在大四边形范围之内;

我的思路是这样的:

A点是四边形要拖动的那个点,他的活动范围是如图的阴影部分
分别计算这三条线的斜率,使a点满足图中的不等式...
同理计算外面的大四边形斜率 ,a点只能在同时满足这些条件的范围内拉伸

不知道我想的是否可行,大神门有没有更好的办法求教~~~